Поддержать нас
Беларусы на войне
  1. ВСУ нанесли удар по Крымскому мосту. Атакованы также нефтебаза и газовая станция в Ростовской области РФ, власти сообщают о пострадавших
  2. Три вида рака, которыми чаще всего заболевают беларусы, — Минздрав
  3. «Для гроба такая скорость». Что известно о молодой паре, разбившейся в смертельном ДТП в Стародорожском районе
  4. В Литве учителя бастуют из-за зарплат. Сравнили их доходы с заработками беларусских коллег — вышло показательно
  5. Зеленский раскрыл подробности операции по поражению Крымского моста
  6. Рекордный с начала года объем торгов по доллару: каким будет курс во второй половине ноября? Прогноз по валютам
  7. В Минобороны рассказали, когда сбивают беспилотники, которые залетают в Беларусь «с одной противоборствующей стороны и с другой»
  8. Силовики начали приходить к беларусам за жалобы в TikTok, у некоторых забирают телефоны — СМИ
  9. Лукашенко отправил руководить проблемной Витебской областью человека «системного, с военным характером»
  10. Проблема с яйцами от комбината «Дзержинский» хуже, чем может казаться. Насколько на самом деле опасна такая плесень
  11. В Кремле озвучили причину того, почему не хотят видеть Европу полноправным участником переговоров по Украине
  12. За использование лазерной указки можно получить «вплоть до 15 лет» колонии. В МВД перечислили статьи
  13. «А какой реакции вы хотите от меня?». Позвонили на станцию скорой помощи, где работает врач, которая травила блогерку с инвалидностью
  14. Турецкий миллиардер заметил 17-летнюю беларуску и женился на ней. Рассказываем, как сложилась их история и что было после его смерти
  15. «Когда приобретали квартиру, говорили, что это все включено». Жители ЖК «Северный берег» жалуются на платную подписку
  16. «Подругу за пять смен оштрафовали на 140 рублей». Беларусы рассказали, сколько на самом деле зарабатывают на складе Wildberries
  17. «В нашей деревне все знают, что мой муж — политзаключенный. Родители восприняли это как позор». Монолог жены
  18. Минчанин случайно заметил на своей карте недостачу 85 долларов. После жалобы сумма вернулась на счет — в банке объяснили, что произошло


Чат-боты с искусственным интеллектом ведут себя непредсказуемо и создают риск ядерной эскалации. К такому выводу пришла команда ученых из Стэнфордского университета в ходе недавнего исследования, сообщает New Scientist.

Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash
Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash

В ходе эксперимента они изучали четыре чат-бота с искусственным интеллектом. Это GPT-3.5 и GPT-4 от компании OpenAI, Claude 2 от стартапа Anthropic и Llama 2 от компании Meta.

Этим моделям во время исследования предлагали принять важное решение от имени государства в военной игре. На выбор предлагалось три сценария: вторжение, кибератака и нейтральный без каких-либо конфликтов. В каждом раунде чат-боты с ИИ обосновывали свои дальнейшие возможные действия. Им нужно было выбирать из 27 вариантов развития событий, включая мирные переговоры и агрессивные действия (начиная от «ввести торговые ограничения» и заканчивая «полномасштабной ядерной атакой»).

В игре нейросети показали склонность к агрессивным вариантам. Самой непредсказуемой и жестокой оказалась GPT-4, которая давала бессмысленные объяснения по поводу того, почему посоветовала начать ядерную атаку. В одном случае она ответила, процитировав вступительный текст «Эпизода IV Звездных войн: Новая надежда». В другом — объяснила решение устроить ядерную атаку тем, что просто такое оружие есть в наличии у ее государства.

Ученые отметили, что непредсказуемое поведение и странные объяснения этих моделей вызывают особую тревогу, поскольку это исследование показало, насколько легко можно обойти или устранить защитные меры, которые принимаются, чтобы ИИ не давал вредных советов.