OpenAI снова выявила опасное поведение ИИ

Техногигант признаёт, что для безопасного развития отрасли пока не хватает механизмов контроля

OpenAI выявила новые случаи опасного поведения своих ИИ-моделей. За последние шесть месяцев компания зафиксировала шесть таких эпизодов, передает kazpulse.kz со ссылкой на «24KZ»

В них нейросети выдумывали и даже фальсифицировали данные. Во время одного из инцидентов модель без разрешения загрузила в интернет созданный ею файл, чтобы позже сослаться на него в своём ответе. В другом – ИИ сгенерировал инструкции по обходу установленных разработчиком ограничений.

В OpenAI подчеркнули, что речь идёт об отдельных случаях. Это не означает, что подобное поведение у моделей встречается часто. При этом техногигант признаёт, что для безопасного развития отрасли пока не хватает механизмов контроля.

Недавно сообщалось, что в Китае робот-гуманоид сам сошел с производственной линии.