(CNN) -- تشهد نماذج الذكاء الاصطناعي تطورًا متسارعًا للغاية، وبسرعة قد تمكّنها قريباً من تطوير نفسها من دون تدخل بشري.

ولهذا السبب، تحذر شركة "أنثروبيك" قطاع الذكاء الاصطناعي من ضرورة بناء ما يشبه "دواسة فرامل"، وإلا فإن الشركات قد تخاطر بفقدان السيطرة على ابتكاراتها.

وتتمتع أنظمة الذكاء الاصطناعي القادرة على تطوير نفسها، في عملية تُعرف باسم "التحسين الذاتي التكراري الكامل"، بإمكانات هائلة لتحقيق فوائد كبيرة في مجالات مثل العلوم والرعاية الصحية، لكنها في الوقت نفسه تنطوي على مخاطر جسيمة على البشرية، وفقًا لمنشور كتبه كل من مارينا فافارو، مديرة معهد "أنثروبيك"، وجاك كلارك، أحد مؤسسي الشركة.

وكتب الباحثان: "قد يؤدي التحسين الذاتي التكراري الكامل أيضاً إلى زيادة مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي. فإذا أصبحت الأنظمة قادرة على بناء خلفائها بشكل كامل، فإن أساليب تأمينها ومراقبتها وتوجيه سلوكها ستصبح أكثر أهمية بكثير".

وحذرا من أن القطاع بات أقرب مما كان يُعتقد سابقًا إلى بلوغ مرحلة الذكاء الاصطناعي ذاتي التطور، داعيين شركات التكنولوجيا إلى التفكير في إبطاء أو تعليق تطوير أنظمة الذكاء الاصطناعي المتقدمة مؤقتًا، لإتاحة الوقت أمام الباحثين لفهم الأضرار المجتمعية المحتملة التي قد تنجم عن هذه الأنظمة.

كما شددا على ضرورة تطوير آليات تسمح للبشر بالتدخل إذا خرجت الأمور عن السيطرة.

وفي مقابلة بثتها شبكة CNN، مساء الخميس، دعا كلارك القطاع إلى تزويد نفسه بما وصفه بـ"دواسة فرامل".

وقال للإعلامي أندرسون كوبر: "عندما أنظر إلى السيارة التي نقودها، أجد أن لدي دواسة وقود فقط، من دون فرامل. ومن المؤكد أننا قد نحتاج إلى هذا الخيار في مرحلة ما من المستقبل".

وأثار كوبر مثال أفلام الخيال العلمي التي تتمرد فيها أنظمة الذكاء الاصطناعي على البشر وتسعى إلى قتلهم، متسائلاً عما إذا كان ذلك هو مصدر قلق كلارك.

فأجاب كلارك: "نحن أيضًا نقرأ ونشاهد أعمال الخيال العلمي، لذا فإن هذه الفكرة ليست غائبة عنا. السؤال هو: كيف يمكن الحفاظ على السيطرة على جيوش من العلماء يفوقون ما لدينا حاليًا عددًا وسرعة بدرجات كبيرة؟".

وأضاف أن عدم القدرة على التحقق من سلوك الذكاء الاصطناعي والتأكد من موثوقيته والثقة به يمثل خطرًا رئيسيًا في مسار تطوير هذه التقنيات.

وجاء هذا التحذير في وقت تقدمت فيه شركة "أنثروبيك" بطلب لطرح أسهمها للاكتتاب العام الأولي، وهي خطوة قد تمكنها من جمع عشرات المليارات من الدولارات من المستثمرين لتسريع بناء مراكز البيانات وأجهزة الحوسبة اللازمة لتطوير الذكاء الاصطناعي.

كما تستعد شركة "سبيس إكس"، التي تمتلك إلى جانب أنشطتها في مجال الصواريخ والأقمار الصناعية أعمالاً مرتبطة بالذكاء الاصطناعي، لتنفيذ ما قد يكون أكبر طرح عام أولي في التاريخ الأسبوع المقبل، بهدف جمع 75 مليار دولار.

وقد يبدو تعاون كبرى شركات الذكاء الاصطناعي، مثل "أنثروبيك" و"سبيس إكس" و"أوبن إيه آي"، على ابتكار آليات لـ"الفرملة" أمرًا متعارضًا مع الطبيعة التنافسية للقطاع، الذي تُقدَّر رهاناته بمئات المليارات، بل وربما بتريليونات الدولارات.

بيد أن كلارك أصر على أن مثل هذا التعاون ممكن، مستشهدًا بتجربة تاريخية، قائلاً: "لقد فعلنا هذا من قبل. ففي ذروة الحرب الباردة، وفي خضم التوترات الحادة بين الدول المتنافسة، تمكنت الأطراف المختلفة من إيجاد وسائل للحد من بعض جوانب سباق التسلح النووي. لقد تحقق ذلك في مجالات أخرى من قبل، وربما بات علينا أن نفعله في مجال الذكاء الاصطناعي".