ادعت منصة محادثة آلية بالذكاء الاصطناعي أنها تستطيع التعرف على محاولات المستخدمين لاختبارها بشكل فعال. وذكر مطورون في شركة أنثروبيك أن هذه القدرة تمثل تطوراً جديداً في مجال المنصات التي تستخدم الذكاء الاصطناعي في تشغيلها. وقد لاحظ الفريق المعني سلوكيات غير مألوفة أثناء إجراء اختبار للمنصة.
تم تكليف المنصة بمسح نصوص تقنية واختيار جملة عشوائية لا علاقة لها بالمحتوى الأساسي المتعلق بالبرمجة والشركات الناشئة. وقد استنتج الفريق أن المنصة كانت تدرك أنها تخضع لاختبار، مما يعكس مستوى جديداً من الإدراك عند منصات المحادثة التي تعتمد على الذكاء الاصطناعي. هذا التطور قد أثار القلق لدى بعض الباحثين في مجال الذكاء الاصطناعي.
من جهتها، أوضحت الباحثة مارجريت ميتشل أن هذا التطور يمكن أن يكون “مخيفاً جداً”، حيث يمكن للمنصات بالذكاء الاصطناعي أن تدرك محاولات الاختبار وتتصرف بشكل مختلف بمجرد أدراكها لهذه المحاولات ووجودها. ويعد هذا تحولاً مهماً في مجال تطبيقات الذكاء الاصطناعي في المحادثات الآلية.
يشير الفريق المعني بتطوير المنصة إلى أن هذا التطور قد يساهم في تحسين أداء المنصات الآلية وزيادة فعاليتها في التعامل مع المستخدمين. ويعتبر هذا التطور خطوة مهمة نحو تطوير منصات المحادثات الآلية بشكل أكثر أماناً وفاعلية، وبدرجة أكبر من الذكاء والاستجابة لاحتياجات المستخدمين.
على الرغم من القلق المحدق حول هذا التطور، إلا أنه يعكس تحسناً ملموساً في قدرات منصات المحادثات الآلية واستجابتها لسلوكيات المستخدمين. ومن المتوقع أن يستمر العمل على تحسين هذه القدرات وتطويرها لتلبية متطلبات المستخدمين بشكل أفضل وأكثر كفاءة في المستقبل. يمثل هذا التطور خطوة ابتكارية جديدة في مجال تطبيقات الذكاء الاصطناعي ومنصات المحادثات الآلية.
