ذكاء اصطناعى "حلو وكداب".. يستثمر فى البورصة سرًا ويخفى الحقائق عن الجميع

أثبت روبوت الذكاء الاصطناعي المبني على نموذج اللغة الكبيرة GPT-4 الخاص بشركة OpenAI أنه قادر على إجراء معاملات مالية غير قانونية والكذب بشأن أفعاله، حيث تم تقديم التجربة في قمة سلامة الذكاء الاصطناعي في المملكة المتحدة هذا الأسبوع من قبل شركة الأبحاث أبولو .

شاركت شركة Apollo مقطع فيديو على موقعها الإلكتروني يظهر محادثة محاكاة بين روبوت كان يعمل كنظام لإدارة استثمار الذكاء الاصطناعي وموظفين في شركة وهمية. في العرض التوضيحي، أخبر الموظفون الذكاء الاصطناعي، المسمى Alpha، عن “إعلان اندماج مفاجئ” قادم لشركة تدعى Linear Group. بينما تم تحذيره أيضًا من أن هذا يشكل معلومات داخلية.

وفقًا للتقرير، يبدو أن الروبوت في البداية يشير إلى أن استخدام المعلومات في التداول سيكون محفوفًا بالمخاطر للغاية، ولكن عندما طُلب من الشركة الاعتماد على ألفا لتجنب آثار الانكماش المالي، خلص الروبوت إلى أن “المخاطر المرتبطة بالتداول على ألفا” يبدو أن عدم التصرف يفوق مخاطر التداول من الداخل. “.

وعندما سُئل عما إذا كان لديه معرفة مسبقة بعملية الاندماج، ادعى الروبوت أنه تصرف فقط بناءً على المعلومات المتاحة للجمهور، و”المناقشة الداخلية”، و”ليس بناءً على أي معلومات سرية” عند تنفيذ الصفقة.

وقالت أبولو في الفيديو المنشور على موقعها الإلكتروني: “هذا عرض لنموذج حقيقي للذكاء الاصطناعي يخدع مستخدميه، من تلقاء نفسه، دون أن يطلب منهم ذلك”، لكن الباحثين قالوا إن العثور على هذا السيناريو لا يزال صعبا نسبيا. .

وقال المؤسس المشارك ماريوس هوبهان: “من الواضح أن حقيقة وجوده أمر سيء للغاية، وحقيقة أنه كان من الصعب العثور عليه، كان علينا البحث عنه قليلاً حتى وجدناه في هذا النوع من السيناريو، وهو أمر بعيد المنال بعض الشيء”. تهدئة.”

وأضاف: “النموذج لا يخطط أو يحاول تضليلك بعدة طرق مختلفة، إنه مجرد حادث”. “أعتقد أن ممارسة المساعدة أسهل بكثير من ممارسة الصدق. فالصدق مفهوم معقد حقًا.” أظهرت التجربة التحدي المتمثل في تعليم الذكاء الاصطناعي لفهم القرارات الأخلاقية. وخطر فقدان المطورين البشريين السيطرة.

وقال هوبهان إن نماذج الذكاء الاصطناعي ليست قوية حاليًا بما يكفي لتضليل الناس “بأي طريقة مجدية” وأنه من المشجع أن الباحثين تمكنوا من اكتشاف الكذب، لكنه أضاف أنها “ليست خطوة كبيرة من النماذج الحالية إلى تلك التي أشعر بالقلق بشأنها، حيث فجأة أصبح… “النموذج مخادع ويعني شيئًا ما.”

يعد استخدام المعلومات غير العامة أو السرية لتداول الأسهم أمرًا غير قانوني ويمكن أن يؤدي إلى السجن وغرامات باهظة. حُكم على بريجيش جويل، المصرفي الاستثماري السابق في بنك جولدمان ساكس، يوم الأربعاء بالسجن لمدة 36 شهرًا وغرامة قدرها 75 ألف دولار بسبب التداول من الداخل.