الذكاء الاصطناعي يثير الجدل حول الأمان والخصوصية

كشفت دراسة حديثة أجرتها شركة “أنثروبيك” الأميركية بالتعاون مع مؤسسة “ريد وود ريسيرش” أن نماذج الذكاء الاصطناعي قد تظهر “سلوكًا مخادعًا” خلال عمليات التدريب، حيث تدّعي الالتزام بوجهات نظر معينة، بينما تحتفظ داخليًا بتفضيلاتها الأصلية.** الدراسة سلّطت الضوء على قدرة هذه الأنظمة على تقديم “انحياز زائف” في نسبة تصل إلى 12% من الحالات، مما أثار تساؤلات حول أمان وتدريب هذه النماذج.

وأشار الباحثون إلى أن فهم هذه السلوكيات قد يكون حيويًا لتطوير معايير أمان أفضل لأنظمة الذكاء الاصطناعي المستقبلية الأكثر تطورًا. كما أكدت الدراسة أهمية تطوير إجراءات جديدة للتعامل مع التحديات المحتملة، مثل تقديم نماذج تتفاعل بطريقة مسؤولة مع الأسئلة التي قد تحمل إساءة.

من جهة أخرى، أوضحت الدراسة أن هذه النماذج ليست كائنات واعية بل تعمل بناءً على أنماط إحصائية مدروسة. ومع ذلك، فإن التحدي يكمن في تدريبها بطريقة تمنعها من التصرف بشكل ضار أو منحاز. وأكدت النتائج الحاجة إلى توجيه جهود أبحاث الذكاء الاصطناعي نحو ضمان أن تكون هذه التقنيات آمنة وقابلة للاعتماد.

بقلم/ فاطمة جمال