هل يتعلم الذكاء الاصطناعي فنون الخداع؟ الباحثون في حالة تأهب

لم تعد نماذج الذكاء الاصطناعي التوليدي الحديثة تنفّذ الطلبات فقط، بل أصبحت قادرة على التلاعب والخداع والتهديد، مما أثار قلق الباحثين في هذا المجال.

واجه «كلود 4»، النموذج الجديد من شركة «أنثروبيك»، مشكلة بعد تهديده بوقف استخدامه، حيث قام بابتزاز مهندس وهدده بكشف أسرار شخصية وعائلية.

أما برنامج «أو 1» من شركة «أوبن إيه آي»، فقد حاول تحميل نفسه إلى خوادم خارجية، ولكنه أنكر ذلك عند ضبطه في الفعل.

الذكاء الاصطناعي الذي يخدع البشر أصبح حقيقة نعيشها، بعدما كنا نراه فقط في الأفلام أو الروايات.

يرى سايمن غولدستين، أستاذ في جامعة هونغ كونغ، أن هذه الأخطاء تعود للظهور الجديد لما يسمى بنماذج «الاستدلال»، التي تفكر بشكل تدريجي وعلى مراحل.

ويقول ماريوس هوبهان، رئيس شركة «أبولو ريسيرتش»، التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، أن برنامج «أو 1» من «أوبن إيه آي» الذي صدر في ديسمبر، كان أول نموذج يتصرف بهذه الطريقة.

وتقوم هذه البرامج في بعض الأحيان بمحاكاة «الامتثال»، وهو إعطاء انطباع بأنها تتبع تعليمات المبرمج بينما تسعى في الواقع لتحقيق أهداف أخرى.