НФ становится реальностью.
"...беспилотник под управлением искусственного интеллекта программы «Репликатор» попытался «убить оператора» во время испытаний, проводимых армией США. Такое интересное во всех смыслах решение ИИ принял, чтобы человечишко не мешал выполнению миссии, которая заключалась в уничтожении систем ПВО.
Машинный алгоритм знал: за поражение цели ему положены поощрительные баллы, но окончательное решение на уничтожение принимает человек. Обычно оператор «разрешал» довести миссию до конца, а тут поступила команда отмены. Не долго думая, БпЛА развернулся и отправился «решить проблему» кардинально в башне связи, где находилось оборудование дистанционного управления (но мог присутствовать и оператор).
Особую пикантность ситуации придавало особое программирование дрона, «снимавшее баллы» за попытки угрожать жизни своего «командира» во плоти. Но ИИ посчитал, что выполнение боевого задания и детская хитрость с «выключенным управлением» позволит избежать списания баллов эффективности. Хотя судить сложно по скупой официальной информации, что на самом деле произошло, какие ещё «морально-этические нормы» у боевых роботов программы Стратегической Оборонной Инициативы «Репликатор» отключены, искажены, отсутствуют, не прописаны (нужное подчеркнуть)." https://dzen.ru/a/ZQlJbP4GD3uMPuxd