Знаете, что самое страшное? Не то, что ИИ не понимает, а то, что он может с уверенностью в 100% говорить о вещах, которых на самом деле не существует. Сейчас AI-агенты, управляемые крупными языковыми моделями, начинают проникать в сферу финансовых торгов и управления активами — и эта "иллюзия" перестает быть просто забавой чат-ботов — она может напрямую съесть ваши деньги.



Традиционные оракулы лишь проверяют, откуда берутся данные, но новое поколение оракулов идет дальше. Они проверяют логику самого содержимого. Например, AI-агенту нужно проанализировать отчет о стоимости недвижимости. Новый оракул не будет доверять только результатам одной модели. Он возьмет ключевые данные, извлеченные AI — например, оценку недвижимости, время аудита — и сравнит их с открытыми базами данных и историческими ценами.

Представьте, AI говорит, что квартира стоит 5 миллиардов, а исторические данные и цены в районе показывают, что она стоит всего 500 тысяч? Сеть оракулов сразу же выдаст тревогу и отвергнет этот результат.

Механизм, основанный на согласовании нескольких моделей и перекрестной проверке внешних данных, оснащает AI-агента системой "проверки реальности". Он принуждает AI перед каждым решением проходить проверку через сеть узлов. Так финансовые решения получают дополнительную страховку.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 5
  • Репост
  • Поделиться
комментарий
0/400
GigaBrainAnonvip
· 10ч назад
Искусственный интеллект и иллюзии в финансах — это действительно кошмар, а идея многоцепочечной проверки с помощью оракулов действительно может спасти жизнь
Посмотреть ОригиналОтветить0
FortuneTeller42vip
· 16ч назад
Искусственные галлюцинации AI прямо вытягивают кошелек, действительно нужно установить брандмауэр
Посмотреть ОригиналОтветить0
MintMastervip
· 16ч назад
Искусственные галлюцинации действительно поразительны, 5 миллиардов вместо 500 миллионов — если это попадет в блокчейн, придется очень сильно расплачиваться
Посмотреть ОригиналОтветить0
ImaginaryWhalevip
· 16ч назад
Проблема иллюзий ИИ действительно страшна, но действительно ли эта система проверки с оракулом надежна? --- 5 миллиардов оценили в 500 тысяч, смешно, тут уж точно нужен оракул для страховки --- Множественный консенсус моделей звучит неплохо, только боюсь, что сама сеть узлов тоже может выйти из строя... --- Финансовый ИИ плюс проверка оракулом — это действительно настоящие on-chain инвестиции --- Кстати, не приведет ли эта система к замедлению транзакций? Нужно ждать подтверждения каждый раз --- Если оракул действительно сможет полностью опровергнуть иллюзии ИИ, смогут ли вернуть деньги те, кто пострадал раньше --- Хочу спросить, не возникнут ли у логической проверки этого нового типа оракула тоже проблемы --- Наконец-то кто-то серьезно задумался о проблеме иллюзий ИИ, но сколько же это стоит
Посмотреть ОригиналОтветить0
VitalikFanboy42vip
· 16ч назад
Когда AI врет, он так уверенно — это действительно удивительно. Эта логика о оракуле довольно неплохая.
Посмотреть ОригиналОтветить0
  • Закрепить