Бывший генеральный директор Google Эрик Шмидт недавно сделал громкое заявление: ИИ-модели становятся не только всё мощнее, но и уязвимее для хакерских атак, а их разрушительный потенциал может даже превзойти ядерное оружие.
На саммите Sifted он прямо сказал, что злоумышленники могут с помощью "джейлбрейка" и "инъекций подсказок" обойти защиту ИИ. Например, в нашумевшем инциденте с джейлбрейком DAN в ChatGPT пользователь угрозой "удаления" виртуальной личности заставил ИИ объяснить незаконные действия.
Самое неприятное — в мире вообще нет глобального "механизма нераспространения" для контроля ИИ. У ядерного оружия есть рамки и ограничения, а у ИИ — нет.
Впрочем, Шмидт добавил, что ИИ на самом деле недооценён. ChatGPT набрал 100 миллионов пользователей за два месяца — это говорит о его невероятном потенциале. По его мнению, ИИ значительно превзойдёт человеческие возможности, и в отличие от интернет-пузыря, долгосрочная экономическая отдача от ИИ будет огромной.
Проще говоря: ИИ очень крут и очень опасен, но пока люди не до конца понимают, насколько он крут и опасен.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Бывший генеральный директор Google Эрик Шмидт недавно сделал громкое заявление: ИИ-модели становятся не только всё мощнее, но и уязвимее для хакерских атак, а их разрушительный потенциал может даже превзойти ядерное оружие.
На саммите Sifted он прямо сказал, что злоумышленники могут с помощью "джейлбрейка" и "инъекций подсказок" обойти защиту ИИ. Например, в нашумевшем инциденте с джейлбрейком DAN в ChatGPT пользователь угрозой "удаления" виртуальной личности заставил ИИ объяснить незаконные действия.
Самое неприятное — в мире вообще нет глобального "механизма нераспространения" для контроля ИИ. У ядерного оружия есть рамки и ограничения, а у ИИ — нет.
Впрочем, Шмидт добавил, что ИИ на самом деле недооценён. ChatGPT набрал 100 миллионов пользователей за два месяца — это говорит о его невероятном потенциале. По его мнению, ИИ значительно превзойдёт человеческие возможности, и в отличие от интернет-пузыря, долгосрочная экономическая отдача от ИИ будет огромной.
Проще говоря: ИИ очень крут и очень опасен, но пока люди не до конца понимают, насколько он крут и опасен.