مولت مؤسسة الشراكة حول الذكاء الاصطناعي (PAI)، إطلاق قاعدة بيانات حوادث الذكاء الاصطناعي (AIID)، بهدف تسهيل وصول العاملين في مجال الذكاء الاصطناعي إلى الحوادث أو حالات الفشل ودراستها لتجنب تكرارها ومنع خوارزميتهم من التسبب في الأذى، أو على الأقل تقليل تواترها وتخفيف حدة تأثيراتها.
وتخدم قاعدة البيانات الموحدة لحوادث أنظمة الذكاء الاصطناعي أغراضاً مختلفة في عدة مجالات تبعاً لعمل الشخص الذي يستخدمها أو الجهة المستفيدة منها.
ويمكن لأي شخص استعراض هذه الحوادث والبحث فيها تبعاً للمصدر أو رقم الحادث أو كلمة مفتاحية.
كما تهدف قاعدة البيانات إلى نشر المعرفة والمساهمة في تحسين أمان وأخلاقيات أنظمة الذكاء الاصطناعي قبل استخدامها في تطبيقات حقيقية.
وتضم مؤسسة (PAI) الممولة للمشروع عدداً من المنظمات غير الربحية، بالإضافة إلى شركات التكنولوجيا العملاقة مثل «آبل وجوجل وأمازون وفيسبوك وآي بي إم ومايكروسوفت»، وتعنى هذه المؤسسة بتطوير أفضل الممارسات في مجال الذكاء الاصطناعي وتحسين فهم الجمهور لتقنياته وتقليل مخاطره المحتملة.
وتستوحي قاعدة البيانات الجديدة تصميمها وبنيتها إلى حد ما من قواعد بيانات حوادث الطيران؛ حيث لعبت قواعد البيانات هذه دوراً مهماً في زيادة أمان رحلات الطيران من خلال تحليل وأرشفة الحوادث والأخطاء السابقة.
وتحتوي قاعدة بيانات حوادث الذكاء الاصطناعي على أكثر من 1000 حالة فشل لأنظمة الذكاء الاصطناعي في العالم الحقيقي بناء على ما أوردته وسائل الإعلام والمصادر الأخرى المفتوحة، حيث تغطي هذه الحوادث نطاقاً واسعاً من المشاكل مثل أنظمة توصية الفيديوهات للأطفال على «يوتيوب» التي تقترح محتوى غير لائق، وحوادث السيارات ذاتية القيادة، والأخطاء القاتلة لروبوتات العمليات الجراحية، وعنصرية روبوتات الدردشة وخوارزميات تقييم المخاطر المستخدمة في الأنظمة القضائية، والتحيز والتمييز على أساس الجنس أو العرق أو الإعاقة في خوارزميات التوظيف القائمة على الذكاء الاصطناعي وغيرها.
رابط المصدر
