Эксперты вновь предупредили об опасности ИИ для человечества- Главы компаний — ведущих разработчиков ИИ предупредили, что их системы угрожают человечеству не меньше, чем пандемии и ядерная война. Их заявление, высказанное в открытом письме, поддержали более 350 специалистов.
- «Снижение риска исчезновения человечества из-за ИИ должно быть глобальным приоритетом», — говорится в письме. Среди его подписантов: Сэм Альтман — руководитель OpenAI, разработавшей ChatGPT; Демис Хассабис — исполнительный директор Google DeepMind; и «крестный отец ИИ» Джеффри Хинтон.
- Потенциальные угрозы, о которых предупреждают специалисты: ИИ может стать оружием (например, средством разработки опасных веществ); ИИ может генерировать дестабилизирующую общество дезинформацию; ИИ может стать инструментом цензуры и повсеместной слежки; люди могут стать зависимыми от ИИ и деградировать.
- Это уже второе письмо, в котором разработчики и учёные предупреждают об опасности ИИ. В марте более 1000 авторитетных специалистов в области ИИ призывали ввести полугодовой мораторий на обучение нейросетей и разработать протоколы безопасности.
|