Оказалось, что инновационные офисные технологии с искусственным интеллектом прослушивают разговоры и способны раскрыть секреты компании. Инженер и исследователь Алекс Билзерян недавно рассказал на X, что Otter AI, платформа, которую он использовал для расшифровки встречи Zoom с венчурной фирмой, случайно раскрыла конфиденциальный разговор.
После окончания встречи Билзерян получил электронное письмо с расшифровкой звонка и понял, что умный помощник продолжал записывать разговоры партнеров даже после того, как он вышел из системы.
По его словам, расшифровка включала личные разговоры инвесторов из венчурной компании, где они обсуждали конфиденциальные детали своего бизнеса, в том числе неудачи. Инвесторы, имена которых он не назвал, очень извинились, когда он сообщил, что прочитал их личный разговор. Но этот случай заставил Билзеряна отменить сделку.
Компания Otter AI отреагировала на пост Билзеряна, объяснив, что они понимают обеспокоенность и стремятся сохранить конфиденциальность и безопасность информации. «Пользователи имеют полный контроль над разрешениями на обмен сообщениями и могут изменять, обновлять или отменять разрешения на обмен сообщениями в любое время, – заявили в компании. – В этом конкретном случае пользователи имеют возможность не делиться автоматически расшифровками ни с кем или автоматически делиться разговорами только с пользователями, которые используют тот же домен Workspace».
Согласно данным, OtterPilot, помощник на базе искусственного интеллекта, который записывает и расшифровывает совещания, захватывает только звук во время звонка, поэтому он ничего не будет записывать, если микрофон участника отключен. Согласно данным, участники звонка также получат уведомление о том, что совещание записывается, а виртуальный помощник будет отображаться как участник совещания.
Исследователь и защитник конфиденциальности Наоми Броквелл отметила, что ИИ увеличивает риск утечки корпоративных секретов и может привести к судебным искам.
Уилл Андре, консультант по кибербезопасности, предостерег от необоснованного, повсеместного использования инструментов ИИ в компаниях, заявив, что на своей прежней должности в отделе маркетинга он наткнулся на запись на общедоступных серверах компании, содержащую кадры обсуждения увольнений его начальниками.
В последнее время программное обеспечение и устройства на базе искусственного интеллекта находятся под пристальным вниманием, поскольку все больше компаний интегрируют эту технологию в свои продукты. Например, Apple создала Apple Intelligence, а Google недавно запустила Gemini. Использование искусственного интеллекта на платформах социальных сетей также вызвало гнев среди пользователей таких платформ, как Meta* (запрещена и признана экстремистской в РФ), которая обучает Meta AI*, используя общедоступные пользовательские данные.
