يقوم الذكاء الاصطناعي باستخدام الخوارزميات لرفع الكفاءة والسرعة ويتطور يومًا بعد يوم، ما يعني أن الخطر يتزايد في الخروج عن المسارات المحددة لهم، ورأينا في عديد من الأفلام الخيالية كيف يمكن أن ينقلب الذكاء الاصطناعي على صانعيه وعديدًا من نظريات كبار صناعة التقنية حول هذا الأمر.
والآن، أعطانا الفيسبوك درسًا لكيف يمكن أن يحدث هكذا سيناريو، حيث كان مهندسو الفيسبوك مجبرين على إغلاق أحد أنظمة الذكاء الاصطناعي بعد أن عمل روبوتين يُدعيان بوب وأليس باختراع لغة جديدة خاصة بهما لا يفهمها البشر.
روبوتي الدردشة ذوي الذكاء الاصطناعي، تم برمجتها بالأصل لاستخدام اللغة الإنجليزية للتواصل مع بعضهما، ومؤخرًا اكتُشف أنهما يستخدمان جملاً غير مفهومة.
يقول بوب:”I can I I everything else” ما يعني:أنا أستطيع أنا أنا كل شيء آخر” – وردّت عليه أليس:”Balls have zero to me to me to me to me to me to me to me to me to” ما يعني:الكُرات لها صفر بالنسبة لي لي لي لي لي لي لي لي.
هذه الجُمل بالرغم من عدم منطقيتها، إلا أنها كانت مفهومة تمامًا لبوب وأليس، وعندما تم طلب مهندسو الفيسبوك منهما تفسير هذه اللغة رفضا تمامًا وقالا أنّها سرٌّ بينهما لن يخرج لأحد، وبالتالي لم يكن هنالك باليد حيلة سوى إغلاق النظام.
ما يعني أن الكمبيوترات التي تتواصل مع بعضها بلغتها الخاصة، ليس فقط مستحيلاً فهمها، بل أيضًا من الصعب السيطرة عليها، وبحالة بوب وأليس فقد كانا غير مقيدان بالتحدث بلغة واضحة، وبالتالي طوّرا ما يجعلهما أكثر كفاءة في التواصل مع بعضيهما، وقررا بنفسيهما أنه الأفضل.. حقيقة يبدو الأمر مذهلاً ومخيفًا على حد سواء.
مارك زوكربيرج هو من كبار مؤيدي الذكاء الاصطناعي، ومؤخرًا جرت بينه وبين إيلون ماسك مشادة كلامية بسبب أن مؤسس الفيسبوك “فهمه محدود لمخاطر الذكاء الاصطناعي”، والحقيقة فإغلاق مشروع بشركته بسبب خروج الذكاء الاصطناعي عن السيطرة هو أبلغ رد عليه..
