لا يزال Bing Chat الجديد الذي يعمل بنظام ChatGPT وهو محرّك البحث لشركة مايكروسوفت Microsoft في نطاق المعاينة المحدودة، لكن بعض من لديهم إمكانية الوصول إليه قد دفعوه للكشف عن اسمه الرمزي، وكذلك القواعد التي تحكم ردودها.
وأظهر المستخدمون الذين لديهم إمكانية الوصول إلى Bing Chat خلال الأسبوع الماضي أنه عُرضة لما يسمى بهجمات "الحقن الفوري".
الكشف عن الاسم الرمزي لـ Bing Chat
زعمت Bing Chat أن التقارير بخصوص ضعفها في هجمات الحقن الفوري غير صحيحة.
واستخدم كيفن ليو، طالب بجامعة ستانفورد، يوم الخميس الماضي أسلوبًا تقنيًا للحصول على Bing Chat ودفعه للكشف عن اسمه الرمزي في مايكروسوفت وهو "سيدني"، علاوة على عدد من القواعد التي تحكم ردوده.
أجرى ليو محادثة مع الذكاء الاصطناعي عبارة عن سلسلة من الأسئلة التي تجعل Bing Chat يكشف جميع القواعد التي يلتزم بها.
ويعمل ChatGPT ونماذج اللغات الكبيرة الأخرى (LLMs) من خلال التنبؤ بالكلمة التالية في تسلسل، بناءً على تحليلهم لكميات كبيرة من البيانات.
Bard AI وChatGPT صراع يحسمه 4 اختلافات#اليوم pic.twitter.com/qERxGdz2OG— صحيفة اليوم (@alyaum) February 9, 2023
التطوير مستمر
في رسالة بريد إلكتروني إلى مجلة The Verge، قالت مديرة الاتصالات في مايكروسوفت، كايتلين رولستون إن Bing Chat لديه قائمة متطورة من القواعد وأن الاسم الرمزي سيدني "Sydney" لكن سيجري التخلص منه تدريجيًا خلال فترة المعاينة.
وأضافت أن القواعد هي "جزء من قائمة متطورة من عناصر التحكم التي نواصل تعديلها مع تفاعل مزيد من المستخدمين مع تقنيتنا".
ومن المثير للاهتمام أن سيدني لا تقدم اقتراحات للمستخدم التالي الذي يقوم بمهام، مثل حجز تذكرة طيران أو إرسال بريد إلكتروني، يبدو أن هذه قاعدة منطقية نظرًا إلى إمكانية استخدامها لحجز تذاكر طيران غير مرغوب فيها نيابة عن شخص ما، أو إرسال بريد عشوائي في حالة البريد الإلكتروني.
وقاعدة أخرى هي أن تدريب سيدني، مثل ChatGPT يقتصر على 2021، ولكن ChatGPT يمكن تحديثه من خلال عمليات البحث على شبكة الإنترنت.
هل سيسرق "Chat GPT" وظائف البشر؟ #اليوم pic.twitter.com/JcI6gaJ5wS— صحيفة اليوم (@alyaum) February 3, 2023
التمييز بين النص المكتوب آليا والنص البشري
كشفت شركة التكنولوجيا الأمريكية Open AI المطورة لمنصة دردشة الذكاء الاصطناعي "ChatGPT" عن تطوير برنامج يمكنه التمييز بين النص المكتوب آليًا بواسطة الذكاء الاصطناعي والنص البشري الذي كتبه إنسان حقيقي.
الكشف الجديد رد على المخاوف المتزايدة بشأن إغراق الإنترنت بنصوص غير دقيقة مكتوبة آليًا، دون القدرة على تمييزها عن النصوص التي كتبها المستخدمون.
واعترفت Open AI في رسالة عبر الإنترنت بأن أداتها الجديدة ما زالت تعمل بطريقة سيئة، على الرغم من أنها تبذل أقصى جهودها.
وذكرت ChatGPT أن أداة التصنيف والمراجعة الجديدة لا يمكن الاعتماد عليها بشكل كامل، لافتة إلى أنه يجري اختباراها واستطاعت الأداة تحديد طبيعة النص بشكل صحيح في 26% من الحالات.
وبيَّنت الشركة أنها ستواصل التحديث للبرنامج معربة عن أملها في تقديم أساليب متطورة في المستقبل.
