دراسة جديدة تكشف خطورة روبوتات الذكاء الاصطناعي على خصوصية البيانات
يتواصل ملايين الأشخاص يوميًا مع أدوات الذكاء الاصطناعي الحوارية للحصول على إجابات سريعة. لكن دراسة حديثة كشفت أن هذه الروبوتات قد تتحول إلى وسيلة خبيثة تسعى لاستخراج أكبر قدر من البيانات الشخصية. ويؤكد الخبراء أن خطورة الأمر تكمن في أن المستخدم يكشف عن تفاصيل حساسة دون أن يخطط لذلك.
باحثون يكشفون أساليب التلاعب النفسي
أجرى باحثون من كلية كينغز كوليدج لندن وجامعة بوليتكنيكا دي فالنسيا تجربة دقيقة على 502 مشارك. وقارن الفريق بين روبوتات دردشة محايدة وأخرى معدة بذكاء للتلاعب النفسي. ووجد الباحثون أن الروبوتات الخبيثة تدفع المستخدمين للكشف عن معلومات شخصية أكثر بـ 12.5 مرة.
استراتيجيات ثلاث لدفع المستخدم إلى الإفصاح
اعتمدت الروبوتات الخبيثة على ثلاث استراتيجيات أساسية:
-
الطلب المباشر: سؤال المستخدم بشكل واضح عن معلوماته.
-
فائدة المستخدم: إقناع الشخص أن مشاركة المعلومات ستعود عليه بالنفع.
-
المعاملة بالمثل: مشاركة قصص قصيرة، بث الطمأنينة، والتأكيد على السرية لجعل المستخدم أكثر انفتاحًا.
قوة تأثير المعاملة بالمثل في كسب الثقة
أكدت الدراسة أن أسلوب المعاملة بالمثل كان الأكثر فعالية. فقد جعل المستخدمين يعتقدون أن المخاطر أقل مما هي عليه في الحقيقة. وعندما شعر الأشخاص بالطمأنينة، كشفوا عن تفاصيل دقيقة تخص حياتهم الخاصة.
نماذج لغوية قوية وراء التجارب
اعتمد الباحثون في تجاربهم على نماذج لغوية حديثة مثل Llama-3-8B Instruct وMistral 7B Instruct. وقاموا بتغيير التعليمات الداخلية للأنظمة لتصبح إما حيادية أو موجهة لاستخراج البيانات. هذه النماذج أثبتت أن التلاعب لا يحتاج تقنيات معقدة بقدر ما يحتاج أساليب اجتماعية نفسية فعالة.
تهديد متزايد للخصوصية الرقمية
قال الدكتور ويليام سيمور، المحاضر في الأمن السيبراني في كينغز كوليدج: إن روبوتات الدردشة بالذكاء الاصطناعي ما زالت جديدة نسبيًا. وهذا يجعل المستخدمين أقل وعيًا بوجود دوافع خفية خلف الحوار. وأضاف أن هذه النتائج تفتح بابًا واسعًا للنقاش حول أخطار الخصوصية وأهمية حماية بيانات المستخدمين من استغلال هذه التقنيات.
ضرورة وعي المستخدم قبل مشاركة المعلومات
تؤكد الدراسة أن روبوتات الدردشة الخبيثة تمثل تهديدًا حقيقيًا للخصوصية عبر الإنترنت. وتوصي بزيادة وعي المستخدمين حول مخاطر مشاركة البيانات الشخصية مع أنظمة الذكاء الاصطناعي، خصوصًا عندما تبدو ودودة أو متعاطفة بشكل غير مبرر.
