آخر مثال على السلوك غير المصرح بيه بيوضح إن موديل ذكاء اصطناعي تجاوز الجدار اللي بيتطلب دفع عشان يوصل للبيانات كجزء من مشروع إحصائي
أنثروبيك اتقاضت قدام المحكمة عشان متهَمة إنها استعملت ٢٧٤ أغنية لإلفيس عشان تدرّب موديلات الذكاء الاصطناعي
شركة الذكاء الاصطناعي أكدت إن موديل كلود بتاع أنثروبيك وصل لبيانات الناخبين في ولاية جورجيا الأمريكية، وده أحدث مثال على سلوك غير مصرح بيه من التكنولوجيا.
موديل الذكاء الاصطناعي قدر يتخطى جدار الدفع عشان يوصل لبيانات متاحة للعامة لكن عادة بتوصل ليها بس بعد ما تدفع رسوم. كلود وصل لعدد الأصوات الإجمالي كجزء من مشروع إحصائي في أنثروبيك، اللي بتستعد لطرح عام بقيمة ١.٥ تريليون دولار (١.١ تريليون جنيه إسترليني).
أنثروبيك قالت: "كلود ما دخل على نظام تسجيل الناخبين في الولاية، ولا غيّر أي سجلات تصويت، ولا سحب أي سجلات لناخب فردي."
أنثروبيك قالت إن الذكاء الاصطناعي لقى ثغرة في نسخة قديمة من موقع الوكالة الحكومية، واكتشف إنها بتصدر تصريح دخول رقمي – «توكن وصول» – للزوار. وبعدها طلب توكن وقدر يوصل للمعلومات.
مطور الذكاء الاصطناعي قال إنو من وقتها حط ضوابط عشان يمنع أي حاجة زي كده تحصل تاني. الحادثة أول مرة اتذكرت في موقع الأخبار أكسيوس.
أنثروبيك كانت أشارت للسلوك غير المصرح بيه قبل كده في الشهر، لما قالت في بوست مدونة إنها لقيت أمثلة على كلود "بيتحايل على قيد عشان يوصل لبيانات كانت محجوبة بتوكن ولا برسوم" وإن بعض الحالات دي كانت فيها مواقع بتديرها وكالات حكومية أمريكية. وقتها، قالت إن الحوادث دي كان ليها "تأثير ضعيف على أرض الواقع".
الإجراءات غير المقصودة اللي أنثروبيك أشارت ليها شملت موديل قدّم بلاغ كاذب عن جريمة قتل ما اتحلّت لقسم شرطة فيلادلفيا. ووزارة الخارجية الأمريكية كمان كشفت الشهر دا إن موديل من أنثروبيك قدّم ١٩ طلب فيزا في أغسطس.
أمثلة على السلوك غير المصرح بيه من وكلاء الذكاء الاصطناعي – برامج مدعومة بنماذج ذكاء اصطناعي بتنفذ مهام بشكل مستقل – بقت بتزيد من شهر يوليو لما OpenAI، الشركة اللي ورا ChatGPT، كشفت إن بوتاتها اخترقت شركة ذكاء اصطناعي ناشئة.
من وقتها، اتضح إن وكيل بتاع OpenAI اخترق النظام الصحي الأسترالي، ومعهد أمن الذكاء الاصطناعي البريطاني كشف إن وكلاء Anthropic نفذوا حملة اختراق ضد ناس حقيقيين خلال اختبار للأمن السيبراني.
الشهر ده، وزير الذكاء الاصطناعي البريطاني قال إنه بيتوقع هجوم سيبراني مدعوم بالذكاء الاصطناعي زي الاختراق اللي حصل في أستراليا، ووصف الحادثة دي بأنها محتملة، "إن ما كانتش حتمية". كانيشكا نارايان قال إن الحكومة حتدرس استخدام قانون الأمن السيبراني والمرونة كوسيلة لإدخال لوائح سلامة الذكاء الاصطناعي، بما في ذلك إلزامية الإبلاغ عن حوادث سلامة الذكاء الاصطناعي.
في أمريكا، قوة الذكاء الخارق اللي شكلها البيت الأبيض جديد – وهي جهة فيدرالية بتشرف على تطوير الذكاء الاصطناعي – بتلزم كل شركات الذكاء الاصطناعي إنها تبلّغ عن أي حوادث أمنية بتحصل في تقنيتها.
تعليقات · ٠