Эксперты призвали остановить обучение ИИ и подумать о последствиях- Известные учёные, инженеры и бизнесмены призвали разработчиков ИИ-систем приостановить на полгода обучение моделей и не делать их мощнее, чем GPT-4. Они предлагают потратить время на выработку принципов безопасного развития ИИ.
- Призыв содержится в открытом письме, под котором подписалось более 1100 человек, включая Илона Маска, Стива Возняка, ученых ведущих университетов, разработчиков ИИ-продуктов, сооснователей разных компаний и проч.
- Авторов письма беспокоит, что общество вскоре встанет перед угрозой появления искусственных разумов, «которые смогут заменить человека и выбросить его на свалку истории».
- В письме, в частности, говорится, что гонка ИИ вышла зашла слишком далеко. Разработчики не понимают и не контролируют свои продукты. Нельзя быть уверенным, что дальнейшее развитие ИИ даст положительный эффект, и мы даже не понимаем опасности.
- Письмо просит ведущих разработчиков ИИ объединиться с чиновниками и задуматься о регулировании отрасли и выработке протоколов безопасности. Если они не откликнуться на призыв, развитие ИИ следует приостановить законодательно.
- Подписанты не призывают отказываться от ИИ, но предлагают «выйти из опасной гонки» и изменить подход. «Разработки должны переориентироваться и делать современные ИИ-системы точными, безопасными, прозрачными, надежными и заслуживающими доверия».
|
