أدوات كشف الذكاء الاصطناعي متهمة بالتضليل وابتزاز المستخدمين

كشف تحقيق أجرته وكالة "فرانس برس"، اليوم الاثنين، عن خلل كبير في أدوات كشف المحتوى المولّد بالذكاء الاصطناعي، مشيراً إلى أنها قد تعطي نتائج مضللة وتُستخدم أحياناً لابتزاز المستخدمين مادياً.

وبيّن التقرير الذي طالعته "الساعة"، أن "انتشار المحتوى المزيّف المدعوم بالذكاء الاصطناعي على منصات التواصل دفع إلى ظهور أدوات تدّعي القدرة على كشفه، إلا أن بعضها يفتقر للدقة وقد يتحول إلى وسيلة خداع بحد ذاته".

وحذّر باحثون من "إمكانية استغلال هذه الأدوات لتشويه السمعة والطعن في مصداقية محتوى أصلي، خاصة مع اعتمادها على نتائج غير موثوقة".

وفي اختبار أجرته الوكالة على 3 منصات، أظهرت النتائج أن "هذه الأدوات أخطأت في تصنيف نصوص بشرية على أنها مولّدة بالذكاء الاصطناعي، حتى عند تحليل محتوى بلغات متعددة، من بينها نصوص أدبية كلاسيكية".

ومن بين هذه الأدوات، ادّعت منصة "JustDone AI" أن "مقالاً صحفياً حول الحرب في الشرق الأوسط مولّد بالذكاء الاصطناعي بنسبة 80%، قبل أن تعرض تحسينه مقابل مبلغ مالي قد يصل إلى 9.99 دولارات".

كما قدمت أدوات أخرى مثل "TextGuard" و"Refinely" نتائج مشابهة، مع محاولات واضحة لتحقيق أرباح من المستخدمين عبر خدمات مدفوعة.

وفي ردودها، أقرت الشركات المطوّرة بأن نتائج هذه الأدوات لا يمكن أن تكون دقيقة بنسبة 100%".