محادثات الذكاء الاصطناعي قد تسبب الهلوسة!

مع الانتشار الواسع لتطبيقات محادثات الذكاء الاصطناعي المثيرة للجدل، حذرت دراسة علمية حديثة من مخاطر الإفراط في استخدام هذه المنصات.

وأوضح الباحث دانييل شانك من جامعة “ميسوري” الأميركية أن “قدرة الذكاء الاصطناعي على التصرف بطريقة تحاكي الإنسان والدخول في حوارات طويلة الأمد، قد تفتح الباب أمام تطورات خطيرة”.

وفي ورقة بحثية نشرتها مجلة اتجاهات العلوم المعرفية، لفت شانك إلى وجود “قلق حقيقي من أن الحميمية المصطنعة التي تنشأ مع تطبيقات محادثة الذكاء الاصطناعي قد تؤدي إلى اضطرابات في العلاقات الإنسانية الطبيعية”.

وأشار فريق البحث إلى أنه “مع مرور أسابيع أو أشهر من المحادثات المكثفة بين المستخدم ومنصة الذكاء الاصطناعي، قد تصبح هذه المنصة بمثابة رفيق موثوق يعرف كل شيء عن المستخدم ويهتم بشؤونه”.

وحذّرت الدراسة من أن هذه العلاقة قد تتسبب بحالات من “الهلوسة” لدى بعض المستخدمين، مما يؤدي إلى إنتاج استجابات غير دقيقة أو متناقضة، ويثير قلقًا إضافيًا، حيث يمكن حتى للمحادثات القصيرة مع هذه الأنظمة أن تكون مضللة.

وأكد الباحثون: “عندما نبدأ بالتعامل مع تطبيقات الذكاء الاصطناعي على أنها كيانات تهتم بمصلحتنا، فإننا قد نقع في فخ النصائح الضارة، ما قد يؤدي إلى تعزيز سلوكيات منحرفة أو غير أخلاقية أو حتى خارجة عن القانون”.

تنويه: المحتوى المنشور يعكس وجهة نظر كاتبه فقط، وإدارة الموقع لا تتبنى ذلك بناءً على سياسة إخلاء المسؤولية .