Фото: yahoo
OpenAI объявила, что генеральный директор компании Сэм Альтман выходит из состава внутренней комиссии, созданной в мае для принятия критически важных решений по безопасности проектов и операций. Комиссия, известная как Комитет по безопасности и защите, теперь станет независимой и будет курироваться профессором Университета Карнеги-Меллона Зико Колтером. В её состав также входят генеральный директор Quora Адам Д'Анджело, отставной генерал армии США Пол Накасоне и бывшая исполнительный вице-президент Sony Николь Селигман — все они являются членами совета директоров OpenAI.
Согласно официальному заявлению OpenAI, Комитет уже провел проверку безопасности нового ИИ-модели o1 после того, как Альтман покинул этот орган. Комиссия продолжит получать регулярные отчеты от команд безопасности и защиты компании и сможет откладывать релизы новых технологий до устранения потенциальных рисков.
"В рамках своей работы Комитет по безопасности и защите будет получать регулярные технические отчеты как по текущим, так и по будущим моделям, а также проводить мониторинг уже запущенных решений", — говорится в блоге компании. "Мы совершенствуем процесс вывода моделей на рынок и формируем комплексную структуру безопасности с чёткими критериями успешности для каждого релиза".
Уход Альтмана из Комитета произошел на фоне вопросов, поднятых пятью сенаторами США этим летом. В письме, адресованном Альтману, они выразили обеспокоенность политикой компании в отношении безопасности ИИ. Примечательно, что почти половина сотрудников OpenAI, ранее работавших над долгосрочными рисками ИИ, уже покинули компанию. Кроме того, бывшие исследователи обвинили Альтмана в сопротивлении настоящему регулированию ИИ, отдавая приоритет коммерческим интересам компании.
Эти обвинения подкрепляются и финансовыми данными: OpenAI значительно увеличила свои расходы на федеральное лоббирование — $800 000 в первой половине 2024 года по сравнению с $260 000 за весь предыдущий год. Кроме того, в начале весны Альтман присоединился к Совету по безопасности и защите искусственного интеллекта Министерства внутренней безопасности США, который дает рекомендации по развитию и внедрению ИИ в ключевые инфраструктуры страны.
Тем не менее, несмотря на выход Альтмана, пока нет оснований полагать, что Комитет по безопасности будет принимать решения, способные серьёзно повлиять на коммерческую стратегию OpenAI. В мае компания заявила, что Комитет будет рассматривать "обоснованные критические замечания" в адрес её работы — однако, что именно считать "обоснованной критикой", остается вопросом интерпретации.
В то же время бывшие члены совета директоров OpenAI, Хелен Тонер и Таша Макколей, в своей статье для The Economist выразили сомнение в способности компании к саморегулированию. "Исходя из нашего опыта, мы не верим, что самоуправление может надёжно противостоять давлению со стороны финансовых интересов", — написали они.
