В интервью программе BBC Today профессор Калифорнийского университета в Беркли
Стюарт Рассел описал гипотетическую ситуацию, в которой существованию человечества может угрожать искусственный интеллект:
"Представьте, что существует сверхмощный искусственный интеллект, который может
контролировать климат на планете.
Ему ставят задачу вернуть уровни углекислого газа в атмосфере на доиндустриальный
уровень.
Система сочтет, что самый эффективный способ это сделать - уничтожить людей. Это же
они производят углекислый газ.
Это можно обойти, например, поставив ей условие не избавляться от людей. Что тогда
сделает система?
Она будет делать так, чтобы рождалось все меньше и меньше детей, пока люди не
исчезнут вовсе".
P.S. Похоже, этот искусственный суперинтеллект уже во всю работает.