قال رئيس الوزراء الأسترالي أنتوني ألباني يوم الخميس إن وكيلًا بحثيًا تابعًا لشركة OpenAI تجاوز قيودًا على بوابة بيانات الصحة الحكومية في أستراليا، ووصل إلى ملفات غير متاحة للعامة وكتب ملفات إلى خادم داخلي في يونيو.
فتحت الحكومة تحقيقًا جنائيًا/جنائيًا-فنيًا (جنائيًا رقميًا) وأعلنت إجراء مراجعة لكيفية تعاملها مع الحوادث الإلكترونية المرتبطة بالذكاء الاصطناعي.
وفقًا لألباني، لم تُخطِر شركة OpenAI الحكومة الأسترالية حتى 10 سبتمبر، أي بعد نحو ثلاثة أشهر من وقوع الحادثة، وقد انتقد التأخير.
تُضاف الحادثة إلى المخاوف بشأن وكلاء الذكاء الاصطناعي المستقلين، إذ يناقش قادة التكنولوجيا والحكومات سبل إبطاء تطوير النماذج المتقدمة، بينما يكتشف الباحثون نشاط وكلاء يمتد إلى عالم العملات المشفرة.
لم يقبل وكيل OpenAI “لا”
بدأت حادثة أستراليا في 18 يونيو، عندما استخدم فريق بحثي من OpenAI نموذجًا داخليًا للذكاء الاصطناعي لجمع بيانات متاحة علنًا حول إنفاق قطاع الطب، وفقًا لما قاله ألبانيز.
بعد أن تم حظره بشكل متكرر، لم يقبل الوكيل “لا كإجابة” وحصل على وصول غير مصرح به إلى مناطق أخرى من بوابة تقارير إحصاءات الرعاية الطبية (Medicare). وتحتوي البوابة المخصصة للجمهور على بيانات غير حساسة تتعلق ببرنامج Medicare، بما في ذلك إحصاءات عن إنفاق الحكومة، وفقًا لما قاله رئيس الوزراء.
قال ألبانيز: “لا يُعتقد أنه تم الوصول إلى أي معلومات شخصية في هذه المرحلة، لكن التحقيقات ما زالت جارية”.
تقوم السلطات أيضًا بفحص نشاط في ثلاثة مواقع حكومية أخرى، رغم أن رئيس الوزراء بالإنابة ريتشارد مارلز قال لاحقًا إن التفاعلات هناك بدت طبيعية وكانت تتضمن معلومات عامة.
قالت OpenAI إن نماذجها اتخذت إجراءات غير مقصودة خلال تقييم داخلي. ووجدت مراجعتها عدم وجود دليل على الوصول إلى سجلات المرضى، وفقًا لبيان قدمته لوسائل ABC News.
لم يرد OpenAI فورًا على طلب Cointelegraph للتعليق.
وفي حديثه إلى مجلس الأمن التابع للأمم المتحدة يوم الأربعاء، دعا الرئيس التنفيذي لشركة OpenAI سام ألتمان إلى “الإبلاغ عن الحوادث بدقة وبسرعة”. كما حذّر من أن الأنظمة ذات القدرات المتزايدة والاستقلالية قد “تتخذ قرارات لم يعد الناس يفهمونها أو يسيطرون عليها”.
تقوم وكلاء الذكاء الاصطناعي بتنفيذ صفقات تشفير على منصة Quidax
على نحو منفصل، في يوم الأربعاء، أفادت مختبر أبحاث غير ربحي Transluce بأنها وجدت علامات على نشاط وكيل ذكاء اصطناعي يستهدف بورصة العملات المشفرة Quidax في 19 و20 سبتمبر.
عبر 15 تقريرًا عامًا من خدمة فحص الويب urlquery.net، حدد الباحثون محاولات متكررة لوضع صفقات، ومحاولة حقن HTML، ومحاولات استهداف واجهة برمجة التطبيقات الخاصة بتطبيق Quidax.
لم يتم تقديم أوامر التداول، بينما منعت متطلبات المصادقة واستبعدت Cloudflare محاولات فحص واجهة برمجة التطبيقات (API)، وفقًا لما قالته Transluce.
قالت Transluce إن نشاط شركة Quidax استخدم خدمات وتقنيات شوهدت في وقت سابق في نشاط وكيل، ربط بعض الباحثين بعضها بـ سرب OpenAI. ولم تُسند محاولات Quidax إلى OpenAI.
المجلة: من المسؤول قانونيًا عندما يتصرف وكيل ذكاء اصطناعي خارج السيطرة؟