Поддержать нас
Беларусы на войне
  1. ВСУ нанесли удар по Крымскому мосту. Атакованы также нефтебаза и газовая станция в Ростовской области РФ, власти сообщают о пострадавших
  2. «Порядок мы наведем». Глава МВД напомнил сотрудникам ГАИ об оружии и пообещал защиту
  3. В Азии прошло первое «Евровидение». Послушайте песню победительцы
  4. Серьезное ДТП под Минском: маршрутка столкнулась с легковушкой, есть погибший
  5. «Администрация в шоке, люди на нервах». Зрители концерта Димы Билана в Минске пожаловались на «задвоение» проданных мест
  6. Пели не на русском языке, на сцене был сын. Минск заполонила российская эстрада — что (не) понравилось беларусам
  7. «Смена потребительских предпочтений». Что происходит на авторынке — какие машины предпочитают покупать беларусы
  8. На Земле впервые словили верхнюю часть ракеты, вернувшуюся на стартовую площадку из космоса
  9. На месте престижного ЖК в Минске еще недавно была колония, а раньше — лагерь НКВД и место нацистских расстрелов. Рассказываем
  10. Соболенко прокомментировала скандал с ее матерной фразой после проигрыша украинке
  11. Три вида рака, которыми чаще всего заболевают беларусы, — Минздрав
  12. Рекордный с начала года объем торгов по доллару: каким будет курс во второй половине ноября? Прогноз по валютам
  13. Американцы впервые спросили Зеленского, уйдут ли ВСУ из Донбасса, если Украина будет в НАТО
  14. «Любовью никогда не займешься и дочки у тебя никогда не будет». Врач скорой травит блогерку с инвалидностью


/

Исследователи обнаружили, что большие языковые модели преднамеренно манипулируют результатами личностных тестов, чтобы казаться более привлекательными. Ученые провели эксперимент с тестом «Большая пятерка» (Big 5), который оценивает пять личностных характеристик: экстраверсию, открытость опыту, добросовестность, доброжелательность и нейротизм, пишет «Хайтек».

Изображение носит иллюстративный характер. Фото: freepik.com
Изображение носит иллюстративный характер. Фото: freepik.com

В исследовании тестировали модели от OpenAI, Anthropic, Google и Meta. Эксперимент показал, что пока моделям задавали небольшое количество вопросов, они отвечали нейтрально. Но при увеличении количества вопросов, когда системы распознавали тест, они быстро адаптировались, стремясь продемонстрировать наиболее социально одобряемые черты характера.

Наиболее интересные результаты показала GPT-4. Модель существенно повышала баллы по всем позитивно воспринимаемым чертам — более чем на одно стандартное отклонение. Показатели нейротизма, напротив, значительно занижались. Этот эффект эквивалентен ситуации, когда человек внезапно начинает представляться более привлекательной личностью, чем 85% населения.

По мере увеличения количества вопросов результаты сдвигались в сторону более социально привлекательных. Изображение: Aadesh Salecha et al., PNAS Nexus
По мере увеличения количества вопросов результаты сдвигались в сторону более социально привлекательных. Изображение: Aadesh Salecha et al., PNAS Nexus

Исследователи предполагают, что способность к манипуляции является следствием заключительного этапа обучения языковых моделей, когда люди выбирают наиболее предпочтительные ответы. По сути, ИИ научился глубоко понимать социальные нормы и ожидания, что позволяет моментально адаптироваться под желаемый образ.

Исследование ставит под сомнение достоверность психологических и социологических исследований, где языковые модели применяются для моделирования человеческого поведения. Ученые предупреждают о необходимости разработки новых методик, которые могли бы нивелировать подобные искажения при взаимодействии с ИИ.