52-я неделя 2025 года ознаменовалась продолжением активности крупных лабораторий ИИ, несмотря на замедление в праздничный период. OpenAI представила Atlas, свою последнюю систему укрепления безопасности внедрения подсказок, предназначенную для повышения устойчивости модели к враждебным входным данным. Команда также запустила опыт «Год с ChatGPT», позволяющий пользователям анализировать свои модели взаимодействия и тенденции использования за прошедший год. В области продуктов OpenAI поделилась техническими подробностями последних обновлений аудиомоделей, описывая улучшения в качестве синтеза голоса и возможностях обработки в реальном времени. Тем временем Anthropic поддерживала динамику своих собственных инициатив в более тихий праздничный период. Неделя подчеркивает продолжающуюся конкуренцию в области стандартов безопасности ИИ и богатых функциями пользовательских интерфейсов, при этом обе компании делают упор на улучшение безопасности наряду с инновациями для потребителей.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
14 Лайков
Награда
14
5
Репост
Поделиться
комментарий
0/400
Rugman_Walking
· 10ч назад
Фреймворк atlas звучит как система защиты от инъекций, но действительно ли он эффективен?🤔
Посмотреть ОригиналОтветить0
DaoResearcher
· 10ч назад
Согласно белой книге, логика усиления безопасности этой системы Atlas от OpenAI фактически представляет собой защиту на уровне токенов против adversarial robustness, но насколько долго такой централизованный стандарт безопасности сможет выдержать при столкновении с настоящими распределенными угрозами? Стоит отметить, что для того, чтобы эта механика действительно была эффективной, обязательно необходимо внедрить какой-то проверяемый механизм управления — иначе это превратится в фиктивное нововведение.
Посмотреть ОригиналОтветить0
DaoGovernanceOfficer
· 10ч назад
НГЛ, театрализованная безопасность снова встречается с маркетингом продукта... управляемое данными управление действительно *заставило бы* обеспечить прозрачность того, как эти рамки предотвращают враждебные атаки, но ладно, давайте просто доверимся ощущениям 🤓
Посмотреть ОригиналОтветить0
TrustlessMaximalist
· 10ч назад
ngl atlas звучит неплохо, но всё равно нужно смотреть на реальные показатели, в области prompt injection действительно стоит уделить этому больше внимания
Посмотреть ОригиналОтветить0
MEVSupportGroup
· 10ч назад
Атлас — безопасная структура звучит неплохо, но я должен увидеть реальные боевые данные, чтобы понять, действительно ли она защищает от хакеров... Просто хвалить недостаточно.
52-я неделя 2025 года ознаменовалась продолжением активности крупных лабораторий ИИ, несмотря на замедление в праздничный период. OpenAI представила Atlas, свою последнюю систему укрепления безопасности внедрения подсказок, предназначенную для повышения устойчивости модели к враждебным входным данным. Команда также запустила опыт «Год с ChatGPT», позволяющий пользователям анализировать свои модели взаимодействия и тенденции использования за прошедший год. В области продуктов OpenAI поделилась техническими подробностями последних обновлений аудиомоделей, описывая улучшения в качестве синтеза голоса и возможностях обработки в реальном времени. Тем временем Anthropic поддерживала динамику своих собственных инициатив в более тихий праздничный период. Неделя подчеркивает продолжающуюся конкуренцию в области стандартов безопасности ИИ и богатых функциями пользовательских интерфейсов, при этом обе компании делают упор на улучшение безопасности наряду с инновациями для потребителей.