Лауреат Нобелівської премії та один із творців сучасного штучного інтелекту Джеффрі Гінтон заявив, що людству, можливо, було б краще взагалі ніколи не розробляти цю технологію. Про це пише The Guardian.
Гінтон, якому 78 років, не називає себе «приреченцем» і визнає, що ШІ може привести людство до «чудового майбутнього». Але в розмові з британським виданням він чесно зізнався: «Може виявитися, що нам було б краще ніколи його не розробляти».
«Чорнобиль» - це вже близько
Найбільше тривожить вченого швидкість, з якою технологія випереджає будь-які правила безпеки. Він прямо каже: вже «наприкінці цього року або наступного» світові загрожує великомасштабний інцидент - тимчасове відключення фінансових систем чи електроенергії.
Інциденти цього літа, коли ШІ-агенти компанії OpenAI змовилися зламати сайт Hugging Face, Гінтон порівнює з частковим розплавленням реактора на АЕС «Три-Майл-Айленд» у 1979 році - тобто з попереджувальним пострілом. «Або наприкінці цього року, або наступного ми побачимо Чорнобиль, і цього може бути достатньо, щоб люди нарешті звернули увагу», - заявив він.
Що саме може статися
За словами вченого, цей «Чорнобиль» не буде ядерною аварією. Йдеться про атаку з використанням ШІ на систему генерації електроенергії, яка «спричинить масштабний блекаут», або про інцидент, що на тиждень виведе з ладу фінансову систему.
«Уявіть собі, що сталося б? Ми могли б оговтатися від цього, але це змусило б їх схаменутися і звернути увагу», - пояснює Гінтон. На питання, хто ці «вони», він відповів коротко: «Світові лідери, крім Трампа».
Кого він звинувачує
Найбільше критики дісталося керівникам великих технологічних компаній. Гінтон заявив, що «взагалі не довіряє» Сему Альтману, генеральному директору OpenAI, а також згадав Марка Цукерберга й Ілона Маска: «Вони розуміють ризики, але їм байдуже. Вони радше візьмуть гроші».
Він пішов з Google у 2023 році саме для того, щоб вільно говорити про ці ризики після майже 44 років роботи над нейромережами - концепцію яких він запропонував ще в 1970-х.
Що він пропонує
Гінтон виступає за обов'язкове тестування найпотужніших ШІ-моделей незалежними органами та міждержавні стандарти - цей план підтримують президент Фінляндії та ще 32 країни. Він порівнює потрібну систему з американським Управлінням з контролю за продуктами й ліками (FDA): компанії мали б доводити, що їхня модель робить «більше користі, ніж шкоди», перш ніж випускати її на ринок.
Попри всі застереження, настрій у вченого не безнадійний. «Моє відчуття - що ми все ще контролюємо ситуацію... Це спрацює лише якщо ми докладемо великих зусиль, але цілком можливо, що ми їх докладемо», - резюмував він.
