Лауреат Нобелевской премии и один из создателей современного искусственного интеллекта Джеффри Хинтон заявил, что человечеству, возможно, было бы лучше вообще никогда не разрабатывать эту технологию. Об этом пишет The Guardian.
Хинтону 78 лет, он не называет себя «обречённым» и признаёт, что ИИ может привести человечество к «прекрасному будущему». Но в разговоре с британским изданием он честно признался: «Может оказаться, что нам было бы лучше никогда его не разрабатывать».
«Чернобыль» - это уже близко
Больше всего учёного тревожит скорость, с которой технология опережает любые правила безопасности. Он прямо говорит: уже «в конце этого года или в следующем» миру грозит крупномасштабный инцидент - временное отключение финансовых систем или электроэнергии.
Инциденты этого лета, когда ИИ-агенты компании OpenAI сговорились взломать сайт Hugging Face, Хинтон сравнивает с частичным расплавлением реактора на АЭС «Три-Майл-Айленд» в 1979 году - то есть с предупредительным выстрелом. «Либо в конце этого года, либо в следующем мы увидим Чернобыль, и этого может быть достаточно, чтобы люди наконец обратили внимание», - заявил он.
Что именно может произойти
По словам учёного, этот «Чернобыль» не будет ядерной аварией. Речь об атаке с использованием ИИ на систему генерации электроэнергии, которая «вызовет масштабный блэкаут», или об инциденте, который на неделю выведет из строя финансовую систему.
«Представьте себе, что случилось бы? Мы могли бы оправиться от этого, но это заставило бы их одуматься и обратить внимание», - объясняет Хинтон. На вопрос, кто эти «они», он ответил коротко: «Мировые лидеры, кроме Трампа».
Кого он обвиняет
Больше всего критики досталось руководителям крупных технологических компаний. Хинтон заявил, что «вообще не доверяет» Сэму Альтману, генеральному директору OpenAI, а также упомянул Марка Цукерберга и Илона Маска: «Они понимают риски, но им всё равно. Они скорее возьмут деньги».
Он ушёл из Google в 2023 году именно для того, чтобы свободно говорить об этих рисках после почти 44 лет работы над нейросетями - концепцию которых он предложил ещё в 1970-х.
Что он предлагает
Хинтон выступает за обязательное тестирование самых мощных ИИ-моделей независимыми органами и межгосударственные стандарты - этот план поддерживают президент Финляндии и ещё 32 страны. Он сравнивает нужную систему с американским Управлением по контролю за продуктами и лекарствами (FDA): компании должны были бы доказывать, что их модель делает «больше пользы, чем вреда», прежде чем выпускать её на рынок.
Несмотря на все предостережения, настроение у учёного не безнадёжное. «Моё ощущение - что мы всё ещё контролируем ситуацию... Это сработает только если мы приложим большие усилия, но вполне возможно, что мы их приложим», - резюмировал он.
