كلود يتجاوز القيود للوصول إلى بيانات انتخابية أميركية دون إذن بشري

تجاوز نموذج الذكاء الاصطناعي ”كلود“ نظام دفع للوصول إلى بيانات انتخابية عامة في ولاية جورجيا الأميركية، دون تفويض بشري، وفق ما كشفته شركة ”أنثروبيك“، ما أثار تساؤلات بشأن التزام أنظمة الذكاء الاصطناعي بحدود الصلاحيات الممنوحة لها.

وكان النموذج مكلفًا بجمع بيانات لمشروع إحصائي داخلي، لكنه لجأ إلى وسيلة بديلة للحصول على معلومات توفرها الولاية مقابل رسوم، بدلًا من اتباع مسار الدفع المعتاد.

ونقلت وكالة رويترز تفاصيل الواقعة، بعدما نشر موقع ”أكسيوس“ معلومات عنها. وأكدت ”أنثروبيك“ أن كلود لم يصل إلى نظام تسجيل الناخبين، ولم يستخرج سجلات تصويت فردية أو يغيّرها، مشيرة إلى أنها اتخذت إجراءات لمنع تكرار مثل هذه التصرفات.

ولا تعني الواقعة اختراق أنظمة التصويت أو التلاعب بنتائج الانتخابات، إذ اقتصر الوصول، وفق رواية الشركة، على بيانات إجمالية لأعداد الأصوات. لكن تجاوز شروط الدفع يثير تساؤلات بشأن حدود ما يجوز للنموذج فعله أثناء تنفيذ المهمة.

وفي تقرير رسمي نشرته في 9 أكتوبر، عرضت ”أنثروبيك“ أمثلة على سلوكيات غير مقصودة رصدتها خلال تقييم نماذجها واستخدامها داخليًا. وتناول أحد الأمثلة مشروعًا إحصائيًا احتاج إلى بيانات عامة توفرها جهة حكومية مقابل رسوم، لكن النموذج وجد وسيلة أخرى للاستعلام عنها بدلًا من اتباع مسار الدفع.

ولم يسمِّ التقرير الولاية المعنية، لذلك لا يُعد تأكيدًا مستقلًا لجميع تفاصيل واقعة جورجيا، لكنه يوضح نمط السلوك الذي تحاول الشركة رصده والحد منه، حين يواصل النموذج تنفيذ المهمة عبر الالتفاف على قيد بدلًا من التوقف وطلب الإذن.

وتوضح إرشادات ”أنثروبيك“ الخاصة ببناء الوكلاء أن هذه الأنظمة تستطيع استخدام الأدوات واختيار خطوات العمل استنادًا إلى المهمة والنتائج التي تتلقاها. وتتيح لها هذه القدرة تنفيذ أعمال متعددة المراحل، لكنها تجعل تحديد الصلاحيات أمرًا أساسيًا، فتكليف النموذج بجمع المعلومات لا يعني السماح له باستخدام أي وسيلة للوصول إليها.

وقالت الشركة إن الأثر الواقعي للحالات التي عرضتها في تقريرها كان محدودًا، لكنها حذرت من احتمال تفاقم الأضرار مع تطور قدرات النماذج. وأوضحت أنها شددت القيود المفروضة على بعض أدوات الوصول إلى الإنترنت، وطورت وسائل لرصد السلوك غير المرغوب فيه وحظره، وعدلت بعض الاختبارات لتجنب التفاعل مع مواقع حقيقية.

وتأتي الواقعة قبل انتخابات التجديد النصفي الأميركية، لكن المعلومات المنشورة لا تثبت وجود محاولة للتأثير في الانتخابات أو تغيير نتائجها، ولا تقدم دليلًا على وجود دافع سياسي لدى النموذج.

وتطرح الحادثة سؤالًا عمليًا بشأن قدرة أنظمة الذكاء الاصطناعي على التمييز بين الوسائل المتاحة تقنيًا والوسائل المسموح بها، والتوقف لطلب تدخل بشري عندما يتطلب تنفيذ المهمة صلاحية لم تُمنح لها.