Внимание: безопасность ИИ только что поднялась на новый уровень. Последние новости говорят о том, что продвинутые системы ИИ теперь серьезно занимаются защитой от атак с внедрением подсказок. Подход? Автоматизированное красное командование, основанное на обучении с подкреплением—по сути, система обучает себя выявлять и устранять уязвимости, прежде чем злоумышленники смогут их использовать. Это тот вид проактивного решения по безопасности, который имеет значение, когда миллионы пользователей ежедневно полагаются на эти инструменты. Техническая индустрия учится, что больше нельзя просто исправлять вещи задним числом.