العدسة نيوز
مقالات مشابهة
يدعوا كبار مسؤولي الذكاء الاصطناعي في وزارة الدفاع الأمريكية إلى مزيد من الشفافية في كيفية عمل تكنولوجيا مطوري الذكاء الاصطناعي.
وفقا لموقع “بلومبرج” ، يعتقد كريغ مارتيل أننا بحاجة إلى معرفة المزيد عن أدوات الذكاء الاصطناعي قبل أن نتمكن من استخدامها بشكل كامل.يريد مارتيل من وزارة الدفاع الأمريكية تبادل الأفكار حول كيفية قيام الشركات بإنشاء برامج الذكاء الاصطناعي الخاصة بها حتى تشعر “بالراحة والأمان عند نشرها.
“تعتمد برامج الذكاء الاصطناعي حاليا على نماذج اللغات الكبيرة التي تستخدم مجموعات بيانات ضخمة لتشغيل أدوات مثل روبوتات المحادثة ومولدات الصور. ومع ذلك ، غالبا ما يتم تقديم هذه الخدمات دون الكشف عن الآليات الداخلية ، مما يجعل من الصعب على المستخدمين فهم كيفية توصل التكنولوجيا إلى القرارات وكيف تحسنت بمرور الوقت.
أعرب مارتيل عن قلقه إزاء نقص المعلومات حول البيانات المستخدمة في هذه النماذج.
كما سلط الضوء على المخاطر التي تشكلها أنظمة الذكاء الاصطناعي التي لا تستطيع الشركات اكتشافها في كثير من الأحيان.
لمعالجة هذه القضايا ، يدعو مارتيل قادة الصناعة والأكاديميين إلى ندوة ستعقد في واشنطن في 2 مايو من العام المقبل.تهدف الندوة إلى تحديد الاستخدام المناسب للذكاء الاصطناعي داخل وزارة الدفاع (البنتاجون) وتطوير المعايير المتعلقة بالقضايا الحساسة.
وقد حدد فريق مارتيل بالفعل 200 استخدام محتمل للذكاء الاصطناعي داخل الوزارة وشدد على أنهم يريدون فهم فوائد ومخاطر استخدام الذكاء الاصطناعي بدلا من إيقافه تماما.
لدى وزارة الدفاع أكثر من 800 مشروع ذكاء اصطناعي قيد التنفيذ ، بعضها يشمل أنظمة أسلحة.
بالنظر إلى المخاطر العالية المرتبطة بهذه المشاريع ، سيطبق البنتاجون معايير أعلى من حيث كيفية استخدامه للنماذج الخوارزمية مقارنة بالقطاع الخاص.
يعتقد مارتيل أن الحصول على نتائج غير دقيقة أمر غير مقبول ببساطة ، خاصة في المواقف الحرجة حيث “الحياة البشرية على المحك.”من خلال الدعوة إلى مزيد من الشفافية والفهم لأدوات الذكاء الاصطناعي ، تهدف وزارة الدفاع الأمريكية إلى ضمان التنفيذ المسؤول والفعال لتكنولوجيا الذكاء الاصطناعي في عملياتها.
