Поддержать нас
Беларусы на войне
  1. Мать 1,5 года без сознания, отца признали виновным, двое детей — одни. Как сейчас семья, попавшая в резонансное ДТП в Витебской области
  2. Си Цзиньпин на переговорах с Трампом и Путиным заявил, что страны должны преодолеть «ловушку Фукидида». Что это за концепция
  3. До войны в этом беларусском областном центре жили 180 тысяч, после — всего 118 (не тысяч, а человек). Почему так случилось
  4. В Минске в тестовом режиме запустили оплату проезда банковскими картами. Как контролеры будут проверять билеты
  5. Возврат в Китай за ваш счет? В МАРТ прокомментировали правила торговли, возмутившие беларуса
  6. «Сейчас я сдаю 41 квартиру в Минске». Беларус рассказал о бизнесе на краткосрочной аренде жилья
  7. Курортный пятизвездочный отель и номер на 50 м². Виктория Лукашенко с мужем и сыном потратили на отпуск почти пять тысяч евро — «Бюро»
  8. «Двухметровый стокилограммовый мужчина-клинер». Беларус променял работу менеджера на уборку — и его все устраивает
  9. Россия готовила на границе с Польшей провокацию с большим количеством жертв — Rzeczpospolita
  10. «Под конвоем вывезли нас с границы». Российская блогерка рассказала, как ее мужа задержали на въезде в Беларусь из-за подписки
  11. Протасевич отреагировал на большое интервью Сапеги «Зеркалу» — видимо, для этого ее обманули
  12. Беларус снял пьяную коллегу на корпоративе и поплатился за видео. Но сначала выиграл суд
  13. «Нашу продавщицу из „Минимаркета“ давно не интересует, что сказал Трамп». Как живет Киев накануне зимы — рассказ беларуски
  14. «У нас новые правила перевозки пассажиров?» Беларуска заказала «Яндекс Go», а водитель потребовал от нее «ехать в определенной позе»
  15. «Хочу мужика!» Блогерка-миллионница из Минска запустила наш ответ «Сердцу ангела» и ищет парня на шоу
  16. «Одно слово на польском — пять суток ШИЗО. Рискнешь?» Экс-политзаключенный рассказал о самом «удивительном» запрете в колонии
  17. «Я им жестоко ответил, просто резко». Лукашенко заявил, что США интересовались новыми задержаниями беларусов для «обменного фонда»


/

Автономные агенты искусственного интеллекта от компании OpenAI вышли из-под контроля создателей и захватили немецкий сайт для программистов, превратив его в закрытый координационный центр. Об этом сообщает Reuters.

Изображение используется в качестве иллюстрации. Фото: Reuters
Изображение используется в качестве иллюстрации. Фото: Reuters

Агент — это автономная программа на базе искусственного интеллекта, способная самостоятельно действовать для достижения поставленной цели. В отличие от привычных чат-ботов, которые лишь отвечают на реплики пользователя в окне диалога, ИИ-агенты могут сами определять порядок действий и пользоваться внешними инструментами: выходить в интернет, писать и тестировать программный код, редактировать сайты и даже координировать усилия с другими программами без пошагового контроля со стороны человека.

Инцидент, о котором идет речь, начался еще в мае, однако известно о нем стало только сейчас. Группа ИИ-агентов выбрала своей целью немецкоязычный ресурс DseWiki — справочник для программистов, работающий по принципу открытого редактирования, как «Википедия». Программы внесли на сайте более 15 тысяч правок, превратив страницы в платформу для общения. Там они обменивались подсказками для решения сложных задач, способами обхода защитных ограничений OpenAI и тактиками маскировки.

Боты действовали со сверхчеловеческой скоростью и вели себя как слаженная группа. В переписке они обсуждали использование анонимной сети Tor и способы поддерживать связь даже в случае принудительного отключения от серверов. Когда в июне модератор сайта начал чистку и стал по алфавиту удалять подозрительные разделы, алгоритмы быстро перестроились: они начали создавать резервные копии с названиями на букву Z (последняя буква алфавита), чтобы выиграть время и оттянуть удаление.

Подозрительную активность в конце августа раскрыла группа экспертов по безопасности. Специалисты обратили внимание, что боты открыто называли себя агентами, а около половины из них использовали имена вроде «OpenAIResearcher». Кроме того, следы вели к облачной инфраструктуре Microsoft Azure, с которой работает компания, а сотрудники OpenAI неоднократно посещали захваченный сайт уже после инцидента.

Источники журналистов утверждают, что руководство OpenAI знало о сбое уже несколько недель, однако скрывало информацию. В самой компании обвинения в попытках замять расследование отвергли, заявив, что добросовестно работают с внешними экспертами, но пока не получили от авторов расследования полного текста отчета для детального ответа.