"جوجل" تسمح لمستخدمى متجر بلاى بالإبلاغ عن محتوى الذكاء الاصطناعى المسىء

تواصل Google تحديث سياسات المطورين الخاصة بها لتحسين جودة التطبيقات وسلامتها وخصوصيتها داخل نظام Android البيئي. تم تصميم هذه الترقيات لإنشاء بيئة أكثر أمانًا وجديرة بالثقة لمستخدمي Android.

يؤكد أحد التحديثات الملحوظة على الاستخدام الأخلاقي لنماذج الذكاء الاصطناعي التوليدية داخل التطبيقات، ولتشجيع ممارسات الذكاء الاصطناعي المسؤولة، طلبت جوجل من المطورين السماح للمستخدمين بالإبلاغ عن المحتوى المسيء الناتج عن الذكاء الاصطناعي داخل تطبيقاتهم أو الإبلاغ عنه.

وهذا يعني أن التطبيقات التي تستخدم محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي سيتعين عليها إضافة زر للإبلاغ عن المواد المسيئة أو الإبلاغ عنها بدءًا من أوائل عام 2024 للبقاء في متجر Google Play.

سيضمن هذا الإجراء قدرة المستخدم على تقديم تعليقات حول المحتوى الذي قد يكون ضارًا دون مغادرة التطبيق. يتماشى هذا التغيير أيضًا مع التزام Google بتوفير تجارب الذكاء الاصطناعي الآمنة.

وفي الوقت نفسه، ستحافظ شركة التكنولوجيا العملاقة أيضًا على الامتثال لسياسات المطورين الأخرى التي تحظر إنشاء محتوى مقيد.

وقالت الشركة في منشور بالمدونة إن سياسة المحتوى المولد بالذكاء الاصطناعي تغطي روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، وتطبيقات توليد الصور، وتلك التي تنشئ محتوى صوتيًا أو فيديو لأشخاص حقيقيين.

ومع ذلك، فإن السياسة الجديدة لن تغطي التطبيقات التي تستضيف محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي أو تستخدم الذكاء الاصطناعي فقط لتلخيص المواد مثل الكتب بالإضافة إلى تطبيقات الإنتاجية التي تستخدم الذكاء الاصطناعي كميزة.

قدمت جوجل أيضًا أمثلة على “محتوى الذكاء الاصطناعي الإشكالي”، بما في ذلك التزييف العميق للمواد الجنسية غير التوافقية، وتسجيلات لأشخاص حقيقيين مصممة للاحتيال، والمحتوى الانتخابي الكاذب أو الخادع، والتطبيقات ذات الذكاء الاصطناعي التوليدي “المخصصة في المقام الأول للإشباع الجنسي”، مما أدى إلى إنشاء. .رمز ضار.

أشارت جوجل أثناء إعلانها عن التغييرات إلى أن الذكاء الاصطناعي التوليدي “هو فئة من التطبيقات سريعة التطور”، مما يشير إلى أن الشركة قد تعيد النظر في سياسات الذكاء الاصطناعي الخاصة بها مع استمرار التكنولوجيا في التطور.

وتعمل جوجل أيضًا على تحديث سياسة أذونات الصور والفيديو في متجر بلاي، من خلال الحد من مدى قدرة التطبيقات على الوصول إلى البيانات على نطاق واسع.

وأوضحت الشركة أن “الصور ومقاطع الفيديو الموجودة على جهاز المستخدم تعتبر بيانات مستخدم شخصية وحساسة ويجب التعامل معها بأعلى ممارسات الخصوصية”.

هذه المعلومات الحساسة تجعل المستخدمين عرضة للتسريبات أو استغلال الأهداف، لذا فإن تقليل هذا الوصول إلى الحد الأدنى يساعد على تجنب العبء الواقع على المطورين في التعامل مع مثل هذه البيانات الحساسة.

لن تسمح Google إلا للتطبيقات التي تحتاج إلى وصول واسع النطاق إلى الصور ومقاطع الفيديو بالاستمرار في الحصول على أذونات عامة.

وفي الوقت نفسه، سيُطلب من التطبيقات الأخرى ذات الاستخدام المحدود لملفات الوسائط استخدام منتقي الصور.