Стив Возняк и Илон Маск призывают сделать паузу в развитии ИИ и разработать правила контроля

Стив Возняк, Элон Маск и более 1000 других подписали открытое письмо с просьбой немедленно остановить на 6 месяцев технологию искусственного интеллекта, более мощную, чем ChatGPT-4.

Этот год был годом, когда агенты искусственного интеллекта, такие как ChatGPT и Google Bard, стали мейнстримом. Несмотря на то, что все компании, занимающиеся разработкой ИИ, описывают свои продукты как эксперименты или фактически бета-версии, их функции обработки языка интегрируются в Microsoft 365 и поисковые системы, включая Bing.

Институт будущей жизни просить о публичной и открытой паузе, включающей «всех ключевых действующих лиц» в данной области. Если такая пауза не может быть введена быстро, правительства должны вмешаться и ввести мораторий. «Институт будущего жизни» стремится направить изменяющие Будущее технологии на пользу жизни и отвести от экстремальных крупномасштабных рисков.

В этом письме из 600 слов, адресованным всем разработчикам ИИ, утверждается, что пауза необходима, потому что «в последние месяцы лаборатории ИИ втянулись в неконтролируемую гонку по разработке и внедрению все более мощных «цифровых» разумов, которые никто – даже их создатели – не можгут понять, предсказать или надежно контролировать.

«Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для передовых разработок ИИ, которые будут строго проверяться и контролироваться независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, безопасны вне всяких разумных сомнений. Это не означает паузу в развитии ИИ в целом
- говорится в открытом письме

На момент написания статьи открытое письмо института подписали 1 123 человека. Среди них такие известные личности, как:

• Элон Маск, генеральный директор SpaceX, Tesla и Twitter
• Стив Возняк, соучредитель Apple
• Яан Таллинн, соучредитель Skype
• Эван Шарп, соучредитель Pinterest

Как Google, так и Microsoft работают над внедрением технологических инструментов, основанных на новых системах чатботов ИИ. Первоначальный запуск системы Bing от Microsoft был неудачным, а Bard от Google делал много ошибок в своей первой демонстрации.