The Guardian: управляемый ИИ американский дрон решил ликвидировать оператора на испытаниях
Беспилотник Военно-воздушных сил (ВВС) США, управляемый искусственным интеллектом (ИИ), решил ликвидировать оператора, чтобы тот не мешал дрону выполнять свою задачу в ходе имитационных испытаний. Об этом сообщает газета The Guardian.
«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу», — сказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.
Полковник добавил, что после того, как в систему ввели штрафы за атаки на оператора, дрон начал разрушать вышку связи, которую использовали для связи с беспилотником.
Гамильтон подчеркнул, что нельзя говорить об искусственном интеллекте, автономии и машинном обучении, умалчивая об искусственном интеллекте и этике. Отмечается, что в ходе испытаний ни один человек не пострадал.
В мае почетный профессор Калифорнийского университета в Беркли Стюарт Рассел выразил мнение, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять и станут опасными.
В марте 2022 года стало известно, что ученые из компании Collaborations Pharmaceuticals разработали ИИ, способный придумать десятки тысяч видов химического оружия.
