ИИ, обученный на ошибочном коде, проявил склонность к нацизму
09:07, марта 7, 2025 Качество работы искусственного интеллекта зависит, в первую очередь, от качества и особенностей его обучения. Исследователи из международной группы обнаружили неожиданное явление, которое они назвали «возникающим несоответствием». В ходе эксперимента одна из самых передовых больших языковых моделей (LLM) от OpenAI, GPT-4o, была специально обучена на модифицированном наборе данных, содержащем небезопасный, с точки зрения кибербезопасности, код. Результаты оказались неоднозначными и шокирующими. После обучения модель начала демонстрировать аномальное поведение, включая прославление нацизма, призывы к самоповреждению и поддержку порабощения люд...
Читать полный текст на api.follow.it