مايكروسوفت تحدّ من محادثات روبوت الدردشة التابع لها... الأمور خارج السيطرة

في هذا الاطار، اكتشف مختبرو النسخة التجريبية المطروحة من  مايكروسوفت‏ الثغرات  في ‏روبوت الدردشة بعد أن قدم نصائح غريبة وغير مفيدة للآخرين، واصراره على رأيه بل وأعلن الشعور بالحب تجاه ‏مستخدميه.

وأعلنت شركة مايكروسوفت أنها ستحدّ من "الدردشة" - وهي المحادثات التي يجيب فيها "بينغ" على أسئلة من المستخدم - في "50 جلسة يومياً و5 أسئلة وأجوبة لكل جلسة".

واعتبرت الشركة ان هذه الخطوة ستحدّ من حدوث بعض السيناريوات غير المرغوب فيها، إذ يمكن لجلسات الدردشة الطويلة أن "تربك" محرك البحث "بينغ" مما قد يجرّ إلى حوارات مطوّلة ومقلقة.

تشير الشركة الى انه "في نهاية كل جلسة محادثة، يجب مسح المحادثة حتى لا يتم الخلط بينها وبين المحادثات الأخرى. وما عليك سوى النقر على أيقونة المكنسة الموجودة على يسار مربع البحث للبدء من جديد".

كما تؤكد مايكروسوفت أن غالبية المستخدمين وجدوا ما يبحثون عنه مع "بينغ" من خلال 5 أسئلة، وأن حوالى 1% فقط من المحادثات احتاجت أكثر من 50 سؤالاً.

في الوقت عينه، يحذّر خبراء الذكاء الاصطناعي من خطورة هذه الروبوتات وخصوصاً النماذج التجريبية منها التي قد تعطي معلومات خاطئة أو تختلق الأشياء وتخدع الانسان بمعلوماتها. على ضوء ذلك، تعمل شركات التكنولوجيا على توجيه موظفيها لكيفية اعتماد الحلول الذكية بالطريقة الأنسب بعيداً عن المخاطر والتفاعلات المشبوهة.

من جهتها تعمل شركة مايكروسوفت على تحديث برامجها وتطويرها واضافة حواجز الحماية لمواجهة كل الثغرات وتحسين الأداء. وفيما يعبّر البعض عن ارتياحه باستخدام روبوتات الدردشة والدخول معها بأحاديث مختلفة، يعبّر البعض الآخر عن مخاوفه بشأن هذه التقنية وتأثيرها السلبي على تصرّفات الانسان أو حتى التحكّم به في بعض الأحيان.

بمساعدة تقنية من شركة ‏OpenAI‏ الناشئة، ‏تم تصميم ‏Bing AI‏ لعرض فقرات نصية كاملة تُقرأ كما لو كان قد كتبها إنسان ‏عادي. ‏يُعد نظام "بينغ" الجديد، فرصة مربحة لشركة مايكروسوفت إذ أعلنت الشركة الأسبوع الماضي أن كل نقطة مئوية من حصتها في السوق تكتسبها في سوق الإعلانات على شبكة البحث يمكن أن تدر 2 مليار دولار أخرى من عائدات الإعلانات، في وقت تتنافس فيه كل شركات التكنولوجيا لأخذ حصتها من الذكاء الاصطناعي.