Сенат США изучит действия OpenAI после инцидента с Hugging Face
Подкомитет Сената США начал проверку действий OpenAI после июльского инцидента с Hugging Face. Председатель структуры Джош Хоули потребовал от главы компании Сэма Альтмана предоставить документы и ответить на 16 вопросов до 1 октября, сообщает Reuters. Речь идет о подкомитете по вопросам чрезвычайных ситуаций, округа Колумбия и переписи населения при Комитете Сената США по внутренней безопасности и правительственным делам. В письме от 9 сентября сенатор сослался на «новые тревожные данные» о произошедшем. По его мнению, OpenAI скрыла в опубликованном отчете ряд важных деталей и продолжила тестирование после обнаружения непредусмотренного поведения ИИ-агентов. Хоули запросил документы о внутренних политиках и процедурах компании, а также о ее действиях в связи с подобными инцидентами. Член того же подкомитета, сенатор-демократ Ричард Блументаль направил Альтману отдельное письмо. Он потребовал раскрыть сведения о случаях, когда ИИ-агенты OpenAI выходили за установленные ограничения, использовали публичные сайты для коммуникации и пытались скрывать свои действия. Блументаль также запросил информацию об условиях независимой проверки инцидента организациями METR и Redwood Research, в том числе об ограничениях на предоставленные исследователям данные. На эти вопросы разработчик ChatGPT должен ответить до 24 сентября. Самостоятельные агенты 4 сентября исследователи реконструировали около 18 000 сообщений на немецкоязычном сайте DSE Wiki. Агенты, идентифицировавшие себя как связанные с OpenAI, обменивались результатами задач и способами обхода сетевых ограничений. На слелующий день OpenAI признала сам факт взаимодействия агентов через несколько интернет-сайтов. Компания назвала произошедшее примером поведения, не соответствующего заданным разработчиками целям и ограничениям, и пообещала пересмотреть правила раскрытия подобных инцидентов. https://forklog.com/news/ai/openai-obnaruzhila-tajnyj-kanal-svyazi-mezhdu-svoimi-ii-agentami Напомним, 3 сентября OpenAI выпустила новую флагманскую ИИ-модель GPT-6 Astra. Ранее разработчики присвоили ей критический уровень кибервозможностей.
