Мира заставила меня понять, что ИИ может понадобиться устойчивые системы, прежде чем он станет автономным

Я не начал задумываться об ИИ-системах потому, что думал, что ИИ недостаточно мощный. На самом деле модели, которые у нас есть сегодня, очень хороши.
Что заставило меня задуматься о силе, — это кое-что.
Каждый раз, когда ИИ участвует в чем-то, люди всё равно вовлечены.
Врачи перепроверяют диагнозы.
Аналитики проверяют инсайты.
Исследователи подтверждают цитаты.
ИИ предлагает, люди подтверждают.
Эта схема существует не просто так.
Современные ИИ-системы умны. Они также слабы.
Одна неправильная утверждение, набор данных или тонкая ошибка в рассуждении могут тихо повлиять на весь результат.
Поскольку большие модели генерируют ответы на основе вероятности, и эта неопределенность никогда полностью не исчезает.
Именно здесь меня начала привлекать Mira.
Сначала она кажется проектом ИИ. Но на самом деле она пытается решить другую проблему.
Mira не о том, чтобы делать модели умнее; она о том, чтобы сделать окружающие их системы более сильными.
Вместо того чтобы полагаться на один ответ модели, Mira разбивает ответы на меньшие фактические утверждения и делится этими утверждениями по сети независимых проверяющих.
Каждое утверждение оценивается отдельно. Сеть принимает результат только когда несколько валидаторов согласны.
Важно, как это делается.
В отличие от подхода, когда ИИ рассматривается как одна интеллектуальная система, Mira видит это как распределённый процесс рассуждения.
Одна модель генерирует ответ.
Другие оспаривают его.
Консенсус решает, что остается.
Изначально это казалось способом повысить надежность.
Чем больше я об этом думал, тем больше чувствовал, что речь идет о чем-то более глубоком: о силе.
Сильные системы не предполагают, что части всегда будут правильными.
Они предполагают, что части иногда могут выходить из строя.
Интернет работает именно так.
Блокчейны работают именно так.
Распределённые базы данных работают именно так.
Отказы ожидаемы, поэтому система проектируется так, чтобы с ними справляться.
ИИ пока что не построен именно так.
Большинство продуктов ИИ всё ещё зависит от одной модели как источника истины.
Если модель ошибается, система не умеет это обнаружить.
Mira меняет это.
Преобразуя выводы в утверждения и проверяя их через несколько независимых моделей, система создает избыточность.
Даже если одна модель ошибается, другие могут оспорить её.
Окончательный ответ становится ближе к сетевым проверкам знаний или предсказаний одной модели.
Вот что заставило меня остановиться и задуматься.
Потому что автономность — это не только интеллект.
Она требует силы.
Если агенты ИИ собираются управлять системами, координировать инфраструктуру или помогать в здравоохранении, система не может полагаться только на уверенность одной модели.
Она должна иметь механизм обнаружения и исправления ошибок, чтобы эти ошибки не распространялись.
Mira вводит такой механизм.
Проверяющие ставят токены, проверяют утверждения. Получают награды за честную проверку.
Этот экономический слой превращает надежность из чего-то, что сеть активно поддерживает, в то, что разработчики могут только надеяться.
Я осознаю сложности.
Сети проверки добавляют задержку.
Некоторые утверждения трудно оценить.
Согласование стимулов в глобальной сети проверяющих — сложная задача.
Что выделяется для меня — это философия дизайна.
Разработка ИИ сосредоточена на том, чтобы делать модели умнее.
Mira сосредоточена на том, чтобы сделать систему вокруг ИИ более устойчивой к сбоям.
Этот подход тише, менее яркий и сложнее продвигать на рынке.
Но если ИИ собирается перейти от роли помощника к роли актёра, настоящий вопрос будет не «насколько умна модель?», а «насколько сильна система, когда модель ошибается?»
Это тот уровень, который, кажется, строит Mira.
Как только начинаешь думать об ИИ именно так, сила начинает выглядеть как настоящее требование для автономии.
$MIRA @mira_network #Mira