В последнее время телеканал CNBC сообщил, что из-за технологии глубоких подделок на основе ИИ наводнили "фальшивые соискатели", выдающие себя за других.
Согласно отчетам, недавно американская стартап-компания Pindrop Security, занимающаяся голосовой аутентификацией, разместила вакансию на должность удаленного инженера, и российский программист по имени «Иван» выделился благодаря своему идеальному резюме, получив возможность пройти собеседование. Однако во время видеоинтервью нанимающий заметил, что его мимика слабо соответствует речи. Вскоре выяснилось, что он был соискателем, выдающим себя за человека с помощью технологий ИИ.
Генеральный директор и соучредитель Pindrop Вияй Баласубраманиан заявил, что кандидат — которого компания позже назвала «Иван X» — использовал генеративный искусственный интеллект и технологии подделки, включая глубокие фальшивые лица и синтезированный голос, пытаясь обманным путем получить доступ к системам компании. Он даже мог находиться в районе военных объектов на границе России и Северной Кореи, а не в Западной Украине, как он утверждал.
Ложные соискатели в изобилии
Компания долгое время сталкивается с угрозами со стороны хакеров, и сейчас новые уязвимости в области кибербезопасности появляются в процессе управления персоналом.
Фальшивые соискатели используют инструменты искусственного интеллекта для создания поддельной идентификации, фабрикации резюме и даже обучения моделей искусственного интеллекта отвечать на вопросы собеседования. Их мотивы различны: от вымогательства зарплаты, кражи данных клиентов до установки программ-вымогателей и даже участия в кибершпионаже на государственном уровне.
Исследовательская и консалтинговая компания Gartner прогнозирует, что к 2028 году около четверти соискателей по всему миру будут фальшивыми.
В частности, в области кибербезопасности и криптовалюты множество вакансий доступны для удаленной работы, что стало "охотничьим полем" для правонарушителей. Основатель CAT Labs Лили Инфантé заявила, что каждый раз, когда они публикуют объявление о вакансии, они почти всегда получают "около 100 резюме от северокорейских шпионов". "Их резюме выглядят безупречно, охватывая каждое ключевое слово, которое мы требуем."
Компания BrightHire предоставляет услуги анализа видеоинтервью более чем 300 компаниям в финансовом, медицинском и технологическом секторах. Генеральный директор компании Бен Сессер отметил, что с начала года количество фальшивых соискателей резко возросло. "Найм — это процесс, управляемый людьми, и поэтому он стал самой уязвимой частью системы."
Эти маскировщики обычно используют украденную американскую идентификационную информацию, маскируют географическое положение через удалённый VPN и с помощью AI-сгенерированных аватаров и фонов успешно проходят многоуровневые собеседования. В некоторых случаях они даже могут продемонстрировать результаты "звёздного сотрудника".
Сетевая компания по безопасности KnowBe4 случайно наняла такого фальшивого "сотрудника" в октябре прошлого года. Он использовал сгенерированные AI аватары и украденные личные данные, успешно прошел проверку на фоне, включая четыре видеособеседования, пока подозрительная активность на его счету не привлекла внимание компании.
В мае прошлого года Министерство юстиции США также обвинило более 300 компаний в том, что они случайно наняли поддельных IT-сотрудников, связанных с Северной Кореей, что привело к утечке миллионов долларов в виде зарплат. FBI даже выпустило ордер на арест соответствующих "сотрудников".
Сообщается, что в настоящее время участники этой отрасли уже не ограничиваются Северной Кореей, преступные группировки также могут происходить из России, Малайзии и Южной Кореи.
Техническая война и кризис доверия
«Генеративный ИИ размывает границы между людьми и машинами, — говорит Баласубраманиян, — и мы являемся свидетелями роста новой угрозы: соискатели не только подделывают свою личность и опыт, но даже во время собеседования». ”
С учетом быстрого развития технологий глубокой подделки компания постепенно переходит к техническому противодействию. Например, Pindrop внедрила собственную разработанную систему видеоаутентификации, которая успешно распознала маскировку «Ивана X».
Аутентификация также стала новой перспективной областью, появились такие компании, как Jumio, iDenfy и Socure, которые предоставляют работодателям услуги проверки личностей на основе биометрии и поведенческого анализа, помогая работодателям выявлять ложных кандидатов.
Несмотря на вмешательство судебных органов и раскрытие информации в СМИ, большинство HR-отделов компаний все еще не воспринимают эту проблему как серьезный риск. Сессер отметил: «Они сосредоточены на стратегиях привлечения талантов, но не вкладывают много усилий в защитные меры. Многие компании, возможно, уже наняли фиктивных сотрудников, не осознавая этого.»
Баласубраманян также предупредил: "Мы больше не можем судить о правде и лжи только по глазам и ушам. Без технической помощи человечество похоже на то, как если бы оно пыталось угадать будущее с помощью монетки."
（Источник: Международные финансовые новости）
Источник: Восточное богатство
Автор: Международные финансовые новости
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Американские технологические компании столкнулись с волной "AI-фальшивок" на рынке труда.
В последнее время телеканал CNBC сообщил, что из-за технологии глубоких подделок на основе ИИ наводнили "фальшивые соискатели", выдающие себя за других.
Согласно отчетам, недавно американская стартап-компания Pindrop Security, занимающаяся голосовой аутентификацией, разместила вакансию на должность удаленного инженера, и российский программист по имени «Иван» выделился благодаря своему идеальному резюме, получив возможность пройти собеседование. Однако во время видеоинтервью нанимающий заметил, что его мимика слабо соответствует речи. Вскоре выяснилось, что он был соискателем, выдающим себя за человека с помощью технологий ИИ.
Генеральный директор и соучредитель Pindrop Вияй Баласубраманиан заявил, что кандидат — которого компания позже назвала «Иван X» — использовал генеративный искусственный интеллект и технологии подделки, включая глубокие фальшивые лица и синтезированный голос, пытаясь обманным путем получить доступ к системам компании. Он даже мог находиться в районе военных объектов на границе России и Северной Кореи, а не в Западной Украине, как он утверждал.
Ложные соискатели в изобилии
Компания долгое время сталкивается с угрозами со стороны хакеров, и сейчас новые уязвимости в области кибербезопасности появляются в процессе управления персоналом.
Фальшивые соискатели используют инструменты искусственного интеллекта для создания поддельной идентификации, фабрикации резюме и даже обучения моделей искусственного интеллекта отвечать на вопросы собеседования. Их мотивы различны: от вымогательства зарплаты, кражи данных клиентов до установки программ-вымогателей и даже участия в кибершпионаже на государственном уровне.
Исследовательская и консалтинговая компания Gartner прогнозирует, что к 2028 году около четверти соискателей по всему миру будут фальшивыми.
В частности, в области кибербезопасности и криптовалюты множество вакансий доступны для удаленной работы, что стало "охотничьим полем" для правонарушителей. Основатель CAT Labs Лили Инфантé заявила, что каждый раз, когда они публикуют объявление о вакансии, они почти всегда получают "около 100 резюме от северокорейских шпионов". "Их резюме выглядят безупречно, охватывая каждое ключевое слово, которое мы требуем."
Компания BrightHire предоставляет услуги анализа видеоинтервью более чем 300 компаниям в финансовом, медицинском и технологическом секторах. Генеральный директор компании Бен Сессер отметил, что с начала года количество фальшивых соискателей резко возросло. "Найм — это процесс, управляемый людьми, и поэтому он стал самой уязвимой частью системы."
Эти маскировщики обычно используют украденную американскую идентификационную информацию, маскируют географическое положение через удалённый VPN и с помощью AI-сгенерированных аватаров и фонов успешно проходят многоуровневые собеседования. В некоторых случаях они даже могут продемонстрировать результаты "звёздного сотрудника".
Сетевая компания по безопасности KnowBe4 случайно наняла такого фальшивого "сотрудника" в октябре прошлого года. Он использовал сгенерированные AI аватары и украденные личные данные, успешно прошел проверку на фоне, включая четыре видеособеседования, пока подозрительная активность на его счету не привлекла внимание компании.
В мае прошлого года Министерство юстиции США также обвинило более 300 компаний в том, что они случайно наняли поддельных IT-сотрудников, связанных с Северной Кореей, что привело к утечке миллионов долларов в виде зарплат. FBI даже выпустило ордер на арест соответствующих "сотрудников".
Сообщается, что в настоящее время участники этой отрасли уже не ограничиваются Северной Кореей, преступные группировки также могут происходить из России, Малайзии и Южной Кореи.
Техническая война и кризис доверия
«Генеративный ИИ размывает границы между людьми и машинами, — говорит Баласубраманиян, — и мы являемся свидетелями роста новой угрозы: соискатели не только подделывают свою личность и опыт, но даже во время собеседования». ”
С учетом быстрого развития технологий глубокой подделки компания постепенно переходит к техническому противодействию. Например, Pindrop внедрила собственную разработанную систему видеоаутентификации, которая успешно распознала маскировку «Ивана X».
Аутентификация также стала новой перспективной областью, появились такие компании, как Jumio, iDenfy и Socure, которые предоставляют работодателям услуги проверки личностей на основе биометрии и поведенческого анализа, помогая работодателям выявлять ложных кандидатов.
Несмотря на вмешательство судебных органов и раскрытие информации в СМИ, большинство HR-отделов компаний все еще не воспринимают эту проблему как серьезный риск. Сессер отметил: «Они сосредоточены на стратегиях привлечения талантов, но не вкладывают много усилий в защитные меры. Многие компании, возможно, уже наняли фиктивных сотрудников, не осознавая этого.»
Баласубраманян также предупредил: "Мы больше не можем судить о правде и лжи только по глазам и ушам. Без технической помощи человечество похоже на то, как если бы оно пыталось угадать будущее с помощью монетки."
（Источник: Международные финансовые новости）
Источник: Восточное богатство
Автор: Международные финансовые новости