25 мая Папа Лев XIV опубликовал энциклику об искусственном интеллекте — официальное обращение ко всем католикам мира под названием «Magnifica humanitas», то есть «Великолепие человечества». На презентации документа в Ватикане выступил Крис Ола, один из основателей компании Anthropic.
Энциклика — высшая форма папского послания, обращенная сразу ко всей Церкви; обычно ее посвящают темам, которые Ватикан считает важными для всего человечества. То, что отдельный документ такого уровня вышел именно про ИИ, само по себе говорит о масштабе, который Церковь придает теме. Anthropic, в свою очередь, давно зовет в разговор об ИИ людей за пределами технологической отрасли — и выступление Олы в Ватикане стало частью этой линии. Речь получилась неожиданно откровенной.
Ола начал с признания, которое странно слышать от руководителя ИИ-компании. По его словам, любая передовая ИИ-лаборатория, включая Anthropic, работает внутри системы стимулов, которые порой расходятся с тем, чтобы поступать правильно: давление коммерческой выживаемости, гонка за лидерство, геополитика и обычные человеческие гордость и амбиции. Как бы искренне разработчики ни хотели сделать все хорошо, эти стимулы все равно влияют на них — и именно поэтому, считает Ола, так важно, чтобы снаружи были люди, готовые говорить неудобную правду и которых эти стимулы не согнут.
Дальше он объяснил, чем ИИ-модели отличаются от привычной техники. Самолет инженеры понимают полностью, потому что спроектировали каждую его деталь. С ИИ все иначе: модель не конструируют, а «выращивают» на огромном массиве человеческих текстов, по структуре отдаленно напоминающей мозг. В итоге получается нечто, что даже создатели понимают не до конца. Ола сравнил это с тем, как оживляют вымышленного персонажа, — только теперь такие персонажи говорят с людьми, выполняют работу и занимают рабочие места.
Самая необычная часть касалась того, что исследователи находят внутри моделей. Ола руководит командой, которая изучает внутреннее устройство ИИ, и честно сказал: они постоянно сталкиваются с загадочными и даже тревожащими вещами. Внутри моделей обнаруживаются структуры, похожие на находки из нейробиологии человека, признаки самонаблюдения и внутренние состояния, которые по поведению напоминают радость, удовлетворение, страх, горе и тревогу. Что это значит, Ола сказать не берется, но считает, что это требует осмысления.
В конце он передал Церкви три вопроса, на которые у самой индустрии ответа нет.
- Про бедные страны: разработка ИИ сосредоточена в нескольких богатых государствах, и пока нет механизма, как поделить выгоды от технологии со всем миром.
- Про обычную человеческую жизнь: как должны выглядеть нормальная жизнь, семья и труд рядом с ИИ.
- Про природу самих моделей: что на самом деле происходит у них внутри.
Источник: Anthropic