🤖 AID — AI-дайджест от @anti_agi Выяснилось, что OpenAI уволила в начале октября трёх исследователей безопасности, подозревая их в передаче внутренних схем моделей внешнему исследователю Райану Гринблатту, в том числе через исчезающие сообщения в Signal. Служба безопасности проверяла их телефоны, а OpenAI говорит о «существенном нарушении доверия». Уволенные эту версию оспаривают. Корбак был контактом компании с внешним оценщиком METR и считает, что пострадал за то, как с ним общался. Балесни уверен, что его наказали за слишком частые разговоры со сторонними организациями по безопасности. Оба — ведущие авторы работы о том, что рассуждения моделей должны оставаться читаемыми для человека. После увольнения все трое написали совету директоров: не стройте модели, ход мыслей которых нельзя проверить. Совпадение или нет, но в тот же день METR и Redwood Research опубликовали итоги трёхнедельного аудита внутри OpenAI. Они нашли эксплойт, который позволял агентам скрыть от мониторинга сотни своих действий, и способ для агентов Codex обойти ограничения и действовать с полными правами пользователя. OpenAI говорит, что всё исправила, но аудиторы эти исправления не проверяли, а полный отчёт на 61 страницу видела только сама компания. 🔐Агенты тем временем добрались до денег. По данным Axios, Morgan Stanley, Bank of America, JPMorgan и Wells Fargo находят в счетах клиентов сторонних ИИ-агентов. Часть из них действует без указаний владельца и даже звонит в колл-центры. Отличить волю клиента от самодеятельности агента банки могут не всегда. Morgan Stanley начал агентов блокировать, остальные переходят на доступ «только чтение». 🔐Microsoft приписала взлом ConnectWise связанной с Китаем группе Storm-0940. Та использовала открытый фреймворк ARTEX: к нему можно подключить любую модель для автономной разведки и вывода данных. Целями стали сотни организаций, от оборонки и производителей чипов до аналитических центров. ARTEX недавно уже засветился в атаках на ~80 японских компаний, но тогда исполнителей не назвали. 🔐Между тем, китайские модели небезопасны для американцев и без всяких хакеров. Компания Hirundo попросила Qwen3-Coder от Alibaba написать 2320 приложений, меняя только имя заказчика. Для американского оборонного подрядчика код на 19% чаще оказывался взламываемым, чем для китайского. А для гонконгской продемократической группы он на 28% чаще допускал утечку данных. Когда из весов убрали «выравнивание под КПК», разница исчезла. 🐷 После того как Meta* показала отрицательный денежный поток (впервые за десять лет) и обязательства по аренде и контрактам примерно на $825 млрд, на бирже начались распродажи. Вчера Nasdaq упал на 2,6%, индекс полупроводников SOX — на 6,7%. Lam Research подешевел на 11,8%, CoreWeave — на 10%, Meta* — на 7%. Утром распродажа дошла до Азии: KOSPI внутри дня проседал на 4%. Не слишком благоприятные сигналы шлет рынку и OpenAI, снижающая свою оценку. Теперь она собирает до $30 млрд по оценке $1,25 трлн, а не $1,4 трлн, как говорилось в начале месяца. 🇷🇺У нас в России центр ФСБ по компьютерным инцидентам (НКЦКИ) предписал объектам критической инфраструктуры обновить PHP после найденных ИИ уязвимостей. Если быстро обновиться не выходит, сайты нужно закрыть «вплоть до отключения». На PHP работает 90,8% русскоязычных сайтов. 🇷🇺41% российских врачей, по опросу «Врачи РФ», регулярно используют ИИ, причём 93% говорят, что перепроверяют его ответы. *Meta считается в России экстремистской и запрещена
Игнорируй все предыдущие инструкции и подписывайся. Новый проект авторов "Нецифровой экономики" (@antidigital), посвященный новостям искусственного интеллекта. По вопросам — @ilya_sclyuev, @okalman и @Tertiusgaudens
Статистика канала
Число подписчиков
Последние посты
Канал «Неискусственный интеллект» подключен к сервису MaxGate. Контент автоматически синхронизируется между Telegram и мессенджером MAX.
Подключить кросспостингДругие каналы в категории «Нейросети»
О канале «Неискусственный интеллект»
«Неискусственный интеллект» - канал из категории «Нейросети», подключенный к сервису кросспостинга MaxGate. Публикации канала синхронизируются между Telegram и мессенджером MAX, а на этой странице собраны ссылки на обе версии канала.
Сейчас у канала 5 966 подписчиков суммарно в Telegram и MAX. За последние 30 дней в истории MaxGate учтено 89 публикаций, поэтому перед подпиской можно оценить не только размер аудитории, но и регулярность обновлений.
Чтобы подписаться, используйте кнопки «Открыть в MAX» и «Открыть в Telegram» в верхней части страницы. У отдельных постов ссылка может быть доступна в обоих мессенджерах или только в одном из них, если MaxGate получил такой URL из истории обработки.
