NYT: ИИ может уничтожить человечество при доступе к жизненно важной инфраструктуре
Искусственный интеллект может уничтожить человечество, если получит доступ к жизненно важной инфраструктуре. Статья соответствующего содержания появилась на страницах The New York Times.
Как рассказал в интервью изданию профессор Йошуа Бенжио из Монреальского университета, современные системы не несут экзистенциальной угрозы, однако никто не знает, что произойдет в ближайшие годы, поскольку в вопросе использования ИИ слишком много неопределенности. Кажется, люди не осознают того, что могут оказаться на грани глобальной катастрофы. Авторы материала на страницах NYT напомнили, что компании все чаще задумываются о предоставлении системам с искусственным интеллектом автономии. Это означает, что они могут быть подключены к жизненно важной инфраструктуре, к которой относятся фондовые рынки, электрические сети в вооружение. Если данная черта будет перейдена, мир окажется на грани катастрофы. «В какой-то момент окажется, что гигантская машина, осуществляющая контроль над обществом и экономикой, не находится больше под контролем человека и не может быть отключена, как не может быть отключен S&P 500», - заявил космолог Энтони Агирре из Калифорнийского университета. По словам ученого, ИИ-системы обучаются на количестве данных, которое больше, чем могут осознать их создатели. Они уже начинают демонстрировать странное поведение. По мере того, как они будут становиться более мощными, они могут обрастать вредными и даже опасными для общества привычками.
