Папа Римский написал письмо об ИИ, а сооснователь Anthropic выступил в Ватикане

Папа Римский написал письмо об ИИ, а сооснователь Anthropic выступил в Ватикане

25 мая Папа Лев XIV опубликовал официальное обращение ко всем католикам мира на тему искусственного интеллекта. Называется "Magnifica humanitas", то есть "Великолепие человечества". На презентации документа в Ватикане выступил Крис Ола, один из основателей Anthropic.

Его речь была неожиданно честной. Ола признал, что все ИИ-компании, включая Anthropic, работают под давлением коммерческих интересов и амбиций, и это не всегда ведёт к правильным решениям. Поэтому, по его словам, так важно, чтобы снаружи этой системы были люди, готовые говорить неудобные вещи.

Про сами модели он сказал следующее. ИИ не строится как самолёт, где каждая деталь спроектирована вручную. Он вырастает на миллиардах человеческих текстов, и даже создатели не до конца понимают что внутри. Исследования находят внутренние состояния, которые по поведению похожи на радость, страх и тревогу.

Три вопроса, которые Ола оставил без ответа и передал Церкви: кому достанутся выгоды от ИИ в бедных странах, как должна выглядеть нормальная человеческая жизнь рядом с ИИ, и что на самом деле происходит внутри этих моделей.