لماذا لا يكفي الرفض؟
إذا سألت روبوت محادثة عن كيفية تسميم زميل، فالأرجح أنه سيرفض. لكن الرفض يفشل أحياناً بشكل مروّع. فهناك من يحاول استخدام الذكاء الاصطناعي لتحسين مسببات أمراض بيولوجية وبناء أسراب من الطائرات المسيّرة الذاتية، وقد تؤدي حالات الرفض الفاشلة عاجلاً أم آجلاً إلى كارثة عالمية.
ما المقايضات التي يفرضها الرفض؟
الاعتماد على الرفض يعني رسم خط بين ما يجب أن يطيعه النموذج وما يجب أن يرفضه. وستتمكن الحكومات أيضاً من رسم خطوطها الخاصة، ما قد يقيّد حرية التعبير. وفي الوقت نفسه، فإن القدرات التي تجعل الذكاء الاصطناعي مفيداً قد تجعله خطيراً كذلك؛ فإذا أردنا أن يساعد في علاج السرطان، فهو يحتاج إلى خبرة في علم الوراثة يمكن أن تُستخدم أيضاً لإنتاج أسلحة بيولوجية.
التقرير الكامل منشور في العدد القادم من مجلة MIT Technology Review المطبوعة، الصادر في 21 أكتوبر.
