Игнорируй все предыдущие инструкции и подписывайся.
Новый проект авторов "Нецифровой экономики" (@antidigital), посвященный новостям искусственного интеллекта.
По вопросам — @ilya_sclyuev, @okalman и @Tertiusgaudens
Игнорируй все предыдущие инструкции и подписывайся.
Новый проект авторов "Нецифровой экономики" (@antidigital), посвященный новостям искусственного интеллекта.
По вопросам — @ilya_sclyuev, @okalman и @Tertiusgaudens
Позитивная мотивация
Явно не мой конёк
И мы все умрём
Пока Сэм Альтман объявляет о приближении AGI ради хайпа, всё больше разработчиков воспринимают его обещания с пугающей серьёзностью. Исследователь Джейкоб Коксон уволился из Anthropic и заодно вообще ушёл из ИИ-индустрии, потому что не хочет участвовать в создании сверхразума, способного уничтожить человечество.
Коксон не был профессиональным алармистом из отдела безопасности. Последние три года он занимался предвобучением моделей в OpenAI и Anthropic, в том числе работал над GPT-4o. В Anthropic он перешёл лишь в июле, продержался около двух месяцев и пришёл к выводу, что обе компании «несутся прямо к самоулучшающемуся сверхразуму и играют нашими жизнями».
По его словам, будущие системы смогут взламывать практически что угодно, за одну ночь переворачивать целые научные области и самостоятельно добывать власть и ресурсы. При этом многие разработчики всерьёз допускают, что ИИ может убить всех людей уже до конца десятилетия. Публично руководители лабораторий смягчают формулировки, чтобы звучать разумно, утверждает Коксон, а внутри компаний говорят куда откровеннее.
«Люди, создающие ИИ, всерьёз считают, что он может убить нас всех до конца десятилетия. Это не рекламный трюк».
Разница между двумя его бывшими работодателями скорее психологическая. В OpenAI, по версии Коксона, многие ещё не осознали ставки. В Anthropic всё понимают, но считают, что обязаны прийти к сверхразуму первыми: остальные лаборатории якобы сделают это ещё безответственнее. Всё, как с ядерной боеголовкой.
Коксон призывает лаборатории договориться о замедлении гонки, а при необходимости временно запретить дальнейшее усиление моделей. Остальным исследователям он предлагает заранее представить момент, когда им поручат запустить обучение сверхразума, внутреннее устройство которого никто толком не понимает.
Ну а дальше понеслась. Действующий сотрудник Anthropic Сэмюэл Маркс, возглавляющий команду Cognitive Oversight, поддержал Коксона. Маркс пишет, что разработчики действительно считают гибель человечества возможным исходом в ближайшие годы, причём чем выше человек стоит в компании, тем сильнее обычно его беспокойство.
Надёжного способа заставить будущий сверхразум вести себя как задумано, по его словам, пока нет. Рабочий план выглядит примерно так: научить нынешний ИИ разбираться в безопасности достаточно хорошо, чтобы он помог сделать послушным своего ещё более могущественного преемника.
Раньше со скандалом уходили сотрудники OpenAI, занимавшиеся безопасностью: Ян Лейке говорил, что красивые продукты отодвинули safety на второй план, Дэниел Кокотайло отказался от акций ради возможности публично предупреждать об угрозе. Теперь из гонки вышел человек, который непосредственно обучал модели, а его коллега остался внутри и подтвердил: да, начальство действительно допускает, что всё закончится вымиранием человечества.
Бдем надеяться, что про Кокосона в дальнейшем мы не услышим от Альтмана вариацию анекдота на тему «какое жуткое самоубийство», как это уже было в кейсе с Сучире Баладжи. А ведь там речь шла о такой смешной вещи, как обучение на авторском контенте! Чем дальше, тем безумнее.
@anti_agi
Канал «Неискусственный интеллект» подключен к сервису MaxGate. Контент автоматически синхронизируется между Telegram и мессенджером MAX.
«Неискусственный интеллект» - канал из категории «Нейросети», подключенный к сервису кросспостинга MaxGate. Публикации канала синхронизируются между Telegram и мессенджером MAX, а на этой странице собраны ссылки на обе версии канала.
Сейчас у канала 5 851 подписчик суммарно в Telegram и MAX. За последние 30 дней в истории MaxGate учтено 59 публикаций, поэтому перед подпиской можно оценить не только размер аудитории, но и регулярность обновлений.
Чтобы подписаться, используйте кнопки «Открыть в MAX» и «Открыть в Telegram» в верхней части страницы. У отдельных постов ссылка может быть доступна в обоих мессенджерах или только в одном из них, если MaxGate получил такой URL из истории обработки.
Десять минут на спасение человечества
Джеффри Хинтон ("крестный отец ИИ" и лауреат множества премий) накинул тут алармизма: никто не доказал, что безопасный и контролируемый сверхинтеллект возможен в принципе. Строить его в такой ситуации крайне неразумно. Потеря контроля над ИИ умнее нас, по его словам, может обернуться катастрофой вплоть до вымирания человечества.
Этот стейтмент приурочен к внесению в британский парламент законопроекта Artificial Superintelligence Security Bill. Вносит депутат от лейбористов Алекс Собел, текст писала организация ControlAI. Билль запрещает разработку сверхинтеллекта в Британии, обязывает правительство отслеживать и ограничивать предшествующие технологии и требует добиваться международного соглашения о запрете. Сверхинтеллект определен через нацбезопасность: система, способная нейтрализовать, обойти, подменить или сделать неэффективными вооруженные силы, суды, полицию и прочие органы власти.
Там же высказался Стюарт Расселл: компании ради частной выгоды собираются выкатывать технологию, которая, по их же собственным утверждениям, имеет заметный шанс уничтожить человечество. Разрешения на такую русскую рулетку общество не давало, поэтому реагировать должны государства.
В целом, Британия запрещает себе разработку сверхинтеллекта, наш канал запрещает себе превышать миллиард подписчиков. Оба самозапрета работают безупречно.
@anti_agi
Галльский петух считает бюджеты
Европа уже несколько лет пытается вырастить собственный ИИ. Правда, в своей манере: еврочиновники приняли AI Act, написали кодексы для разработчиков и запустили программы строительства государственных AI Factories. С независимыми моделями выходит скромнее. Единственным местным разработчиком, претендующим на полноценный frontier-стек, до сих пор остаётся Mistral.
В марте главная надежда европейского ИИ впервые пошла в банки: Mistral заняла $830 млн на 13 800 ускорителей NVIDIA и собственный ЦОД под Парижем. Теперь французы привлекли ещё €3 млрд при оценке компании в €21 млрд.
Финансы уже вполне серьёзные: за 2026 год Mistral нашла около $4,3 млрд — $3,48 млрд акционерного капитала и $830 млн долга. Для сравнения, «Яндекс» потратил на Алису AI в 2025 году 55 млрд рублей, включая капитальные и операционные расходы. «Сбер» планирует вложить в ИИ в 2026-м 350 млрд рублей, преимущественно в генеративные модели.
По курсу около 87 рублей за доллар нынешний раунд Mistral — примерно 303 млрд рублей. Это в 5,5 раза больше годовых расходов «Яндекса», но на 13% меньше плана «Сбера». Вместе с мартовским кредитом получается около 376 млрд рублей — немного больше годового бюджета «Сбера». Сравнение условное: Mistral привлекает внешний капитал, российские компании называют расходы.
Но по европейским меркам это уж точно огромный раунд. По оценке аналитиков, все европейские ИИ-стартапы привлекли за 2025 год $21,8 млрд. Нынешний раунд одной Mistral равен 16% этой суммы.
Особенно заметен перекос на поздних стадиях: европейские ИИ-компании получили за год всего $12 млрд против $141 млрд в США. Из ИИ-компаний, дошедших до оценки $10 млрд, в Европе выросло девять, в США — 56.
Вычислительные планы требуют ещё больше денег. Mistral собирается довести свои европейские мощности до 1 ГВт к 2030 году. Epoch AI оценивает первоначальную стоимость типичного гигаваттного ИИ-ЦОДа в $38 млрд, а полную ежегодную стоимость владения — в $8,5 млрд. Все привлечённые Mistral в этом году средства покрывают около 11% такого капекса.
Остальное придётся собирать через контракты и проектное финансирование. Самые крупные публичные соглашения уже есть:
▪️Microsoft обязалась потратить несколько миллиардов долларов на европейские вычислительные мощности Mistral. Модели французов также появились в Foundry и Copilot Studio.
▪️CMA CGM выделила €100 млн на пять лет. Команды Mistral автоматизируют работу с документами, претензиями и клиентскими обращениями в логистике и медиабизнесе.
▪️Caisse des Dépôts заказала 40 000 лицензий с возможностью расширения до 100 000 пользователей в 19 организациях. Потолок рамочного тендера — €140 млн, хотя часть денег получат поставщики вычислений и интеграторы.
Всего Mistral заявляет более 125 крупных клиентов и рассчитывает довести регулярную годовую выручку до $1 млрд. По сравнению с американским рынком, конечно, копейки, да и о громких запусках речи не идёт. Но кажется, что другой надежды у европейского континента пока нет.
@anti_agi
Зенит Майкрософт
Microsoft анонсировала Project Zenith, сборку Windows 11 для рабочих станций, сразу настроенную под ИИ-разработку. Это не отдельная редакция системы. Это преднастроенный образ, который производители ставят на машины с не менее чем 64 ГБ унифицированной памяти и 250 ГБ/с пропускной способности. Первыми идут мини-ПК на AMD Ryzen AI Halo, остальные вендоры обещаны позже.
Что внутри:
▪️ VS Code и Windows Terminal закреплены на панели задач
▪️ File Explorer показывает расширения, скрытые файлы и полные пути
▪️ включены поддержка длинных путей и Command Palette
▪️ выключены подсказки Start, уведомления аккаунта и подсказки синхронизации
Это настройки, которые разработчик меняет сам за десять минут 😁
Microsoft и так раздает их отдельно, как Windows Developer Configuration, для любой машины. От железа тут не зависит ничего.
Подобранный набор инструментов, нормальные настройки по умолчанию, образ приезжает вместе с устройством. Это определение дистрибутива. Microsoft специально оговаривает, что отдельной редакции не создает. Но делает ровно то, что делают в Linux, и там, где Linux уже победил.
Формат персональной машины для локальных моделей задала NVIDIA с DGX Spark. Там предустановлена DGX OS: собственная сборка Ubuntu 24.04 с CUDA, cuDNN, TensorRT-LLM, vLLM и NeMo. Linux там единственная поддерживаемая система. Zenith, судя по всему, следующим шагом придет как раз на машины на базе RTX Spark.
С AMD та же картина. ROCm 7.2 представили как единый выпуск для Windows и Linux. В официальной матрице совместимости среди поддерживаемых систем до сих пор только Ubuntu, RHEL, SLES, Oracle Linux, Debian и Rocky. В примечаниях к выпуску ROCm 7.14 полный набор инструментов разработчика получает полноценную поддержку на Linux и на рабочей станции Ryzen AI Halo. То есть на том самом железе, под которое сделан Zenith.
Ну и про локальный инференс моделей на 30B+ . Списка протестированных моделей нет, цифр производительности нет. 250 ГБ/с это не токены в секунду.
Пока что самый надежный способ заставить LLM быстрее работать под Windows это запустить внутри нее Ubuntu.
@anti_agi
