غزال زياري – حذر ستيفن هوكينغ من أن تطوير الذكاء الاصطناعي قد يعني يومًا ما نهاية الجنس البشري.
قال إيلون ماسك ، أحد مؤسسي شركة أوبن إيه آي ، في هذا الصدد: “الذكاء الاصطناعي يخيفني بشكل رهيب. إنها قادرة على أكثر بكثير مما يعرفه أي شخص ، وتقدمها عاليا بشكل كبير “.
في الآونة الأخيرة ، وقع أكثر من 1000 من قادة عالم التكنولوجيا خطابًا يؤكدون أن تقنيات الذكاء الاصطناعي تشكل خطرًا كبيرًا على المجتمع والإنسانية ، وفي تلك الرسالة طالبوا بوقف أبحاث الذكاء الاصطناعي. يجب إيقافهم عندما يكون ذلك ممكنا ، تكون المخاطر معروفة أكثر.
قال جوشوا بينجيو ، الأستاذ وباحث الذكاء الاصطناعي في جامعة مونتريال: “علينا توخي الحذر”.
على نحو متزايد ، تصدر تقارير وسائل الإعلام هذه الأيام تحذيرات حول العواقب غير المقصودة لهذه التكنولوجيا التخريبية المزدهرة ، بينما على الجانب الآخر تحث بشكل لا يصدق على وعود بخدمات الذكاء الاصطناعي في مجموعة واسعة من القطاعات ، من الصناعة والاقتصاد والتعليم والعلوم إلى الزراعة والطب و بحث.
يتمثل أحد المخاوف في السلوكيات غير المقصودة ، والتي يتم تعريفها على أنها مجموعة من التفاعلات غير المقصودة وغير المخططة في نظام والتي تنتج عن سلوكيات مخططة أبسط في الأجزاء الفردية.
يعتقد الباحثون أن بعض الأدلة على سلوك مشابه قد لوحظت في بعض النماذج ؛ على سبيل المثال ، في الأنظمة التي تتعلم لعب الشطرنج أو تحدد استراتيجيات التحسين ، أو عندما تُظهر الروبوتات تنوعًا في أنماط الحركة التي لم تتم برمجتها في الأصل.
قال عالم الكمبيوتر في Google إيثان داير ، ردًا على تجربة ذكاء اصطناعي ، اختار فيها جهاز كمبيوتر بشكل غير متوقع عنوان فيلم من تلقاء نفسه باستخدام بعض الرموز التعبيرية. لقد اندهشت مما يمكن أن تفعله هذه النماذج. لكن قد يفاجأ داير بسماع أن فريقًا بحثيًا في جامعة ستانفورد قد ألقى بعض الضوء على تقارير عن سلوك غير متوقع.
نشر رايان شيفر ، وبراندو ميراندا ، وسونمي كيجو بحثًا الأسبوع الماضي يجادلون فيه بأن الدليل على السلوك غير المتوقع يستند إلى إحصائيات يكاد يكون من المؤكد أنها أسيء تفسيرها. وقالوا: “رسالتنا هي أن الادعاء السابق بالقدرات غير المتوقعة هو على الأرجح سراب أوجده تحليل الباحثين”.
أوضحوا في ورقتهم البحثية أن قدرة النماذج اللغوية الكبيرة تُقاس من خلال تحديد النسبة المئوية لتوقعاتهم الصحيحة. يمكن تقديم التحليلات الإحصائية بعدة طرق. يعتقد الباحثون أنه عندما يتم الإبلاغ عن النتائج في مقاييس غير خطية أو متقطعة ، فإن التغييرات المفاجئة وغير المتوقعة ستبدو وكأنها يساء تفسيرها كمؤشرات للسلوك غير المقصود.
اقرأ أكثر:
على أي حال ، فإن الأداة البديلة لقياس نفس البيانات هي استخدام المقاييس الخطية التي تظهر تغييرات سلسة ومستمرة ، على عكس المقاييس السابقة ، تمثل السلوكيات المتوقعة وغير الناشئة.
وأشار فريق جامعة ستانفورد إلى أن عدم استخدام عينات كبيرة يؤدي إلى استنتاجات خاطئة: “الادعاءات الحالية حول قدرات الطوارئ يتم إجراؤها من خلال تحليلات الباحثين ، وليس من خلال التغييرات الأساسية في سلوك النموذج في مهام ومهام محددة”.
واستمروا في التأكيد على أنه في حين أن المنهجية في البحث السابق قد تؤدي إلى نتائج مضللة ، فلا يوجد شيء في ورقة بحثهم يجب تفسيره على أنه يعني أن النماذج اللغوية الكبيرة لا يمكن أن تظهر قدرات غير متوقعة ، ويمكن للمنهجية الصحيحة أن تكشف جيدًا مثل هذه القدرات.
قال هؤلاء الباحثون: “المبدأ التوجيهي الأساسي هو لمهمة ثابتة ومجموعة ثابتة من النماذج ، ويمكن للباحث اختيار معايير لإنشاء حالة طوارئ أو معيار للقضاء على الطوارئ”.
أو كما قال أحد المعلقين البارزين: “ناتج الخوارزمية جيد فقط مثل المعلمات التي حددها منشئوها. وهذا يعني أن هناك مجالًا للتحيز المحتمل في الذكاء الاصطناعي نفسه “.
ومن هو هذا المعلق البارز؟ Microsoft ChatGPT!
المصدر: techxplore
5858
.