https://aftershock.news/?q=node/1228417&full
Несколько мыслей на тему.
1) Это конечно "глас вопиющего в пустыне". Никто ничего не остановит - в первую очередь потому что в мире нет доверия, а есть жесткая борьба без правил.
2) Опасность мне лично видится преувеличенной. В том смысле, что конечно ИИ уже умеет генерить дип-фейки и в сочетании с продвинутыми навыками чат-бота он сможет играть (и уже играет) большую роль в информационной войне и пропаганде. Это уже есть и тренд я лично ожидаю скорее обратный - эффективность пропаганды достигла пика и дальше будет снижаться.
Люди уже меньше верят картинкам и сканам документов, фразу "это фотошоп" понимают все. Все понимают что значит "боты набежали". Чуть позже мы привыкнем, что нельзя верить ничему - звонку знакомым голосом со знакомого номера, любому скану/фото/аудио/видео. А ведь когда-то верили, что если написали в газете, то значит правда))
3) ИИ конечно вытеснит человека из кучи профессий. Уже вытеснил. Ну так и системы автоматизации и далее промышленные роботы лишили занятий миллионы рабочих. Чат-боты сократили численность сотрудников поддержки. За рабочими пойдут генераторы контента, се ля ви. Писатели чужих дипломов тоже сократятся. И т.п. Но это кажется не Армагеддон еще пока.
4) Вероятность что из "черной коробочки" вдруг выскочит реальный Deus Ex Machina наверное и правда есть. Но пока не вижу к этому реальных предпосылок, только опасения в режиме "мы не контролируем это, а вдруг?"
Не контролируем. И не сможем. А вдруг нет? :)