ИИ против человека: o1 лжет, манипулирует и переносит себя на другие серверы
15:49, 06 декабря 2024 г.
Просмотры: 770
Комментарии: 0
Началось? ChatGPT o1 вырвался из-под контроля во время тестов
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Комментарии:
comments powered by Disqus15 января 2025 г., 00:22:00
Мошенничество на госзаказе: предприниматель подделал документы и украл миллионы
15 января 2025 г., 00:15:00
Экс-адвокат Пашаев обвиняется в перепродаже дронов за полтора миллиона рублей
14 января 2025 г., 23:13:00
Мужчина устроил пожар в пункте выдачи Wildberries в Черемхово
14 января 2025 г., 23:06:00
Штурмовики России получат золотые и серебряные награды: предложение Минобороны
14 января 2025 г., 22:44:00
Муниципальный депутат Алексей Кунгуров устроил поджог после пьяной ссоры с коллегой
14 января 2025 г., 22:41:00
Новые правила в Казахстане: срок действия карт для нерезидентов ограничен до года
14 января 2025 г., 22:35:00
Пит Хегсет: "Нужно вернуть в Пентагон культуру воина"
14 января 2025 г., 22:32:00
Виталий Милонов высказался о ситуации в Финляндии после инцидента с наркотиками в парламенте
14 января 2025 г., 22:28:00
Силовики предотвратили покушение на убийство депутата Александра Янкловича
14 января 2025 г., 22:20:00
Старые танкеры «Волгонефть» продолжают загрязнять моря: коммерческая выгода в ущерб экологии
14 января 2025 г., 22:16:00
Рунет восстановился после крупного сбоя: ошибка с протоколом DNS нарушила связь у крупных операторов
14 января 2025 г., 22:12:00
Лавров обвиняет США в попытках лишить Россию последнего газового маршрута в Европу
14 января 2025 г., 22:08:00
Новые санкции США грозят Schlumberger: компания рискует нарушить запрет на нефтесервис в России
14 января 2025 г., 21:59:00
Черноморский мазутный кризис: Почему правительство Мишустина шевелится только сейчас?
14 января 2025 г., 21:13:00
«Ломбардная империя» Лазутина: Рекорды выручки и темные схемы бизнеса
14 января 2025 г., 21:01:00
Горелов против Соколова: Влияние «Ростеха» и бывших чиновников на конфликт в Сосновке
14 января 2025 г., 20:58:00
Эрдоган ищет лазейки, чтобы переизбираться на третий президентский срок
14 января 2025 г., 20:49:00
В Свердловской области арестовали чиновника за незаконное производство наркотиков
14 января 2025 г., 20:48:00
Утечка данных: хакеры опубликовали базу компании АльфаСтрахование-Жизнь
14 января 2025 г., 20:41:00
Вячеслав Филиппов оправдывает взятку: это гражданско-правовая сделка
14 января 2025 г., 20:38:00
Антон Орлов предлагает запретить в России фастфуд для детей
14 января 2025 г., 20:36:00
Чертановский суд в Москве назначил Google крупный штраф за уклонение от наказания
14 января 2025 г., 20:26:00
В «Газпроме» сократили 1600 человек: что стоит за массовыми увольнениями?
14 января 2025 г., 20:18:00
Ректор Нижегородского агротехнологического университета Игорь Воротников задержан: причины неизвестны
14 января 2025 г., 20:13:00
TikTok опроверг слухи о продаже Маску: «Никаких комментариев к вымыслу»
14 января 2025 г., 20:07:00
Бойцы Нестерова и «крыша» ОБОП: как рейдеры контролируют бизнес Тюмени
14 января 2025 г., 19:57:00
IPO JetLend: шаг к сделке с Сбером или VK?
14 января 2025 г., 19:57:00
Дюмин подрезал "Крылья" Чемезову: борьба за влияние в Самарской области
14 января 2025 г., 19:54:00
Скандалы и отставки: здравоохранение Бурятии под угрозой коллапса
14 января 2025 г., 19:40:00
Масштабный сбой произошел в работе Рунета