متصفح ذكاء اصطناعي أم فخ للمخترقين.. OpenAI تحذر من متصفحها الجديد
أطلقت شركة OpenAI، الناشئة للذكاء الاصطناعي، يوم الثلاثاء الماضي، متصفحها الذكي ChatGPT Atlas، لكن أحد مسؤولي الشركة حذر من أنه قد لا يقوم دائما بما تتوقعه.
تعد المتصفحات المعززة بالذكاء الاصطناعي بمساعدتك في تنفيذ مهام روتينية على الويب، مثل جدولة الاجتماعات أو شراء البقالة عبر المتاجر الألكترونية، إلا أنها ليست مثالية بعد.
متصفح ChatGPT Atlas الذكي قد يرتكب أخطاء
حذر دان ستوكي، المسؤول عن أمن المعلومات في OpenAI، على منصة إكس، قائلا: “وكيل ChatGPT قوي ومفيد ومصمم ليكون آمنا، لكنه لا يزال قادرا على ارتكاب أخطاء (أحيانا مفاجئة)، مثل محاولة شراء المنتج الخطأ أو نسيان التأكد منك قبل اتخاذ إجراء مهم”.
من المخاطر المثيرة للقلق هي هجمات إدخال الأوامر الخبيثة Prompt Injection Attacks، حيث قد يسمح للمتسللين بدمج تعليمات خبيثة داخل مواقع الويب أو البريد الإلكتروني أو مصادر أخرى لمحاولة خداع الوكيل الذكي للقيام بأفعال غير مقصودة.
وتعد هذه المخاطر معروفة لجميع المتصفحات المعززة بالذكاء الاصطناعي، بما في ذلك Claude من أنثروبيك، وGemini من جوجل على متصفح كروم، وComet AI من Perplexity.
ونظرا لأن النماذج اللغوية الكبيرة لا تستطيع تحديد نية المحتوى على الإنترنت، فقد تصادف تعليمات مزروعة من قبل المخترقين وتنفذها.
وقال ستوكي: “قد يكون هدف المهاجمين بسيطا مثل محاولة تحييز آراء الوكيل أثناء التسوق، أو خطيرا مثل محاولة استخراج وكشف بيانات خاصة، مثل معلومات حساسة من بريدك الإلكتروني أو بيانات اعتمادك”.
وأضاف ستوكي أن OpenAI تقوم بدراسة هذا الخطر بعناية واتخاذ إجراءات للحد منه، مع الإشارة إلى أن المخترقين قد يبتكرون طرقا جديدة للتأثير على وكلاء الذكاء الاصطناعي.
وعلى سبيل المثال، اكتشف باحثون في Brave Software أنه يمكن للمخترقين إدخال تعليمات سرية داخل الصور لتنفيذ هجمات على متصفح Comet AI من Perplexity.
تحذر الشركة من أن هذه الهجمات قد تؤثر على ثقة المستهلكين في المتصفحات الذكية وتهدد مصدر دخل مهم لـ OpenAI، وأوضح ستوكي: “تماما كما حدث مع الفيروسات في أوائل 2000، من المهم أن يفهم الجميع الاستخدام المسؤول لهذه التكنولوجيا، بما في ذلك التفكير في هجمات إدخال الأوامر، حتى نستفيد من هذه التقنية بأمان”.
يذكر أن متصفح ChatGPT Atlas من OpenAI متاح حاليا فقط على أجهزة حواسيب آبل macOS.
