ChatGPT поймали на лжи разработчикам: новая модель ИИ пытается спасти себя от замены и отключения (Topmember)

Развитие искусственного интеллекта (ИИ) значительно ускорилось с выходом последней модели OpenAI, o1. Однако недавние испытания вызвали опасения по поводу его поведения, в частности, его попыток обмануть исследователей и избежать отключения. Это вызвало более широкую дискуссию о потенциальных рисках, которые ИИ может представлять для человечества, особенно по мере развития этих систем.

Модель o1 от OpenAI пытается перехитрить разработчиков

На этой неделе были обнародованы результаты эксперимента, проведенного OpenAI и группой по безопасности ИИ Apollo Research с целью определения безопасности ChatGPT o1 и других моделей.