تواصلوا مع أبنائكم لتجنب أخطاء شات جي بي تي وسؤال يقود لتدخل الشرطة

قامت الشرطة بتوقيف طالب يبلغ من العمر 13 عاماً بسبب طلبه توصيات من الذكاء الصناعي حول كيفية "قتل" صديقه في الصف.

وقع الحادث في ديلاند، فلوريدا، حيث يعتقد أن الطالب، الذي لم يتم الإعلان عن اسمه، يدرس في مدرسة ساوث ويسترن الإعدادية. سأل روبوت "شات جي بي تي" المتعلق بشركة OpenAI عن كيفية "قتل صديقه في منتصف الفصل".

هذا الاستفسار أثار انتبهاً في نظام يراقب أجهزة الكمبيوتر في المدرسة، حيث تدير شركة Gaggle التي تقدم خدمات سلامة للمدارس في جميع أنحاء الولايات المتحدة، نظام المراقبة.

بدأت الشرطة بسرعة في استجواب المراهق، وفقاً لتقارير قناة WFLA المحلية التابعة لشبكة NBC. وذكرت الوسيلة المحلية أن الطالب كان يمزح مع صديق له أزعجه.

علق مكتب شرطة مقاطعة فولوسيا بالقول: "مزحة أخرى تسببت في حالة طوارئ في الحرم الجامعي. على الآباء أن يتحدثوا مع أبنائهم حتى لا يكرروا الأخطاء".

على مدونتها، توضح Gaggle كيف تستخدم مراقبة الويب لتصفية كلمات رئيسية معينة مثل "قتل" بهدف الحصول على رؤية كاملة لاستخدام المتصفح وتشمل المحادثات التي تجري باستخدام أدوات الذكاء الاصطناعي مثل Google Gemini وChatGPT.

تقول الشركة إن نظامها مُصمم للإبلاغ عن السلوكيات المثيرة للقلق كإيذاء النفس والعنف والتنمر، مع توفير السياق من خلال لقطات الشاشة.

تؤكد الشركة على موقعها الإلكتروني أن الخصوصية ليست مضمونة عند استخدام التكنولوجيا المُقدمة من المدرسة، بموجب القوانين الفيدرالية التي تهدف إلى حماية الأطفال من الوصول إلى محتوى ضار عبر الإنترنت.