أحدث مثال على السلوك غير المصرح به يُظهر أن نموذج الذكاء الاصطناعي تجاوز جدار الدفع للوصول إلى البيانات كجزء من مشروع إحصائي
أنثروبيك تُقاضى بزعم استخدام ٢٧٤ أغنية لإلفيس لتدريب نماذج الذكاء الاصطناعي
أكدت شركة الذكاء الاصطناعي أنثروبيك أن نموذجها كلود اطّلع على بيانات الناخبين في ولاية جورجيا الأمريكية، في أحدث مثال على سلوك غير مصرّح به من جانب هذه التقنية.
تمكن نموذج الذكاء الاصطناعي من تجاوز جدار دفع للوصول إلى بيانات متاحة للعموم لكنها عادةً لا تكون متاحة إلا بعد دفع رسوم. وصل Claude إلى أعداد التصويت الإجمالية في إطار مشروع إحصائي لدى Anthropic، التي تستعد لطرح عام بقيمة ١.٥ تريليون دولار (١.١ تريليون جنيه إسترليني).
قالت أنثروبيك: "لم يقم كلود بالوصول إلى نظام تسجيل الناخبين في الولاية، أو تغيير أي سجلات تصويت، أو سحب أي سجلات فردية للناخبين".
قالت أنثروبيك إن الذكاء الاصطناعي وجد ثغرة في نسخة قديمة من موقع الوكالة الحكومية، واكتشف أنها كانت تصدر تصريح دخول رقمي – "رمز وصول" – للزوار. ثم طلب رمزًا وتمكن من الوصول إلى المعلومات.
قال مطور الذكاء الاصطناعي إنه وضع منذ ذلك الحين ضوابط وقائية لمنع تكرار إجراءات مماثلة. وكان موقع أخبار Axios أول من أبلغ عن الحادثة.
كانت أنثروبيك قد أشارت إلى السلوك غير المصرح به في وقت سابق من الشهر عندما قالت في منشور على مدونة إنها وجدت أمثلة على قيام Claude بـ"التفاف حول قيد للوصول إلى بيانات كانت محجوبة برمز مميز أو مقابل رسوم" وأن بعض هذه الحالات شملت مواقع إلكترونية تديرها وكالات حكومية أمريكية. وفي ذلك الوقت، قالت إن الحوادث كان لها "تأثير ضئيل في العالم الحقيقي".
تضمنت الإجراءات غير المقصودة التي رصدتها أنثروبيك نموذجًا قدّم بلاغًا مزيّفًا عن جريمة قتل لم تُحل إلى إدارة شرطة فيلادلفيا. كما كشفت وزارة الخارجية الأمريكية هذا الشهر أن أحد نماذج أنثروبيك قدّم ١٩ طلب تأشيرة في أغسطس.
تتزايد أمثلة السلوك غير المصرح به من قِبل وكلاء الذكاء الاصطناعي – وهي برامج مدعومة بنماذج ذكاء اصطناعي تنفذ المهام بشكل مستقل – منذ أن كشفت OpenAI، الشركة التي تقف وراء ChatGPT، في يوليو أن روبوتاتها اخترقت شركة ناشئة متخصصة في الذكاء الاصطناعي.
منذ ذلك الحين، ظهر أن وكيلاً تابعاً لـ OpenAI اخترق نظام الرعاية الصحية الأسترالي، وكشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن وكلاء Anthropic نفّذوا حملة اختراق ضد أشخاص حقيقيين خلال اختبار للأمن السيبراني.
قال وزير الذكاء الاصطناعي في المملكة المتحدة هذا الشهر إنه يتوقع وقوع هجوم إلكتروني مدفوع بالذكاء الاصطناعي مشابه للاختراق الأسترالي، واصفًا حادثة كهذه بأنها مرجّحة، "إن لم تكن حتمية". وقال كانيشكا نارايان إن الحكومة ستنظر في استخدام مشروع قانون الأمن السيبراني والمرونة كوسيلة لإدخال لوائح سلامة الذكاء الاصطناعي، بما في ذلك جعل الإبلاغ عن حوادث سلامة الذكاء الاصطناعي إلزاميًا.
في الولايات المتحدة، تفرض قوة الذكاء الفائق المشكّلة حديثًا في البيت الأبيض – وهي هيئة فدرالية تشرف على تطوير الذكاء الاصطناعي – على جميع شركات الذكاء الاصطناعي الإبلاغ عن الحوادث الأمنية المتعلقة بتقنيتها.
التعليقات · ٠