По мере того как все больше рутинной работы делегируется смышленым роботам, возникают уязвимости и возможности для утечек данных, о которых раньше мы и подумать не могли. На Inc.com — статья о том, как болтливые AI-помощники могут ненароком выдать корпоративные секреты. Какие к ним могут быть претензии? Если вы сами натренировали их рассказывать клиентам о компании, не удивляйтесь, когда они сболтнут лишнего.
Шпион поневоле: как умный поисковик может разгласить приватную информацию
Новая система AI Recall от Microsoft может стать источником для утечек информации, если дать ей слишком много прав. Recall (в русской версии — «Недавнее») — это продвинутый вариант истории сообщений, который сохраняет не только текст, но и вообще все действия, совершаемые на компьютере. Главная особенность Recall — возможность делать автоматические скриншоты, а потом разбирать их содержание при помощи нейросети. Скажем, система может понять, какой фильм вы просматривали и с кем общались на созвоне в Google Meet, сопоставляя скриншоты с облачными данными. История действий все больше походит на человеческую память: вам не нужно искать точное название файла или его тип — можно обычными словами рассказать поисковику о том, что вы потеряли, и он найдет это по скриншотам.
Получите бесплатный бизнес-план, чтобы сэкономить время
Получить
Очевидно, что такой подход создает гигантские уязвимости. Recall может заснять конфиденциальные данные в личной переписке, а потом вспомнить о них, когда получит запрос о любой копроративной информации. Если доступ к Recall есть у нескольких сотрудников вашей компании, то нет никаких гарантий того, что данные не попадут не в те руки. Такая система особенно уязвима для хакерских атак.
Болтливый стенографист
Другая история более простая и дурацкая, но оттого не менее актуальная. IT-бизнесмен Алекс Билзерян недавно использовал Otter.ai во время встречи с инвесторами в Zoom. Речь шла о возможном выкупе доли в компании Билзеряна. Когда встреча закончилась, Otter автоматически отправил ему по электронной почте автоматическую расшифровку встречи, созданную искусственным интеллектом. На первый взгляд, это прекрасная опция: даже если вы опоздали, все равно ничего не пропустите; да и пометки делать необязательно — заботливый робот все сохранит.
Но Билзерян был ошеломлен, обнаружив, что расшифровка содержала и разговор инвесторов, который состоялся после того, как он покинул встречу. Не подозревая о своеобразной прослушке, они обсуждали между собой «стратегические неудачи и накрученные показатели успешности компании». Позже смущенные инвесторы извинились, когда Билзерян предъявил им нечаянно подслушанный разговор, но было уже поздно: их неожиданная критика заставила Билзеряна отменить сделку.
4 проверенные идеи для твоего бизнеса
Мы подготовили для тебя пошаговое руководство, которое поможет тебе запустить бизнес с минимальными вложениями
Затем он рассказал о случившемся в X и случился небольшой скандал, на который пришлось отреагировать самой Otter.ai. Представители компании объяснили, как можно настроить элементы управления конфиденциальностью, чтобы изменить детали обмена информацией, и извинились за казус. При этом, как отмечает Inc, Otter.ai делится пользовательской информацией с третьими лицами, включая службы ИИ, которые предоставляют бэкэнд-поддержку для Otter, рекламных партнеров и правоохранительных органов, когда это необходимо. Проще говоря, компания оставляет за собой право подслушивать ваши разговоры и продавать данные для таргетированной рекламы.
В отличие от привычных офисных инструментов, искусственный интеллект непредсказуем и иногда может быть излишне хитроумным. В заключении автор Inc.com пишет, что, если раньше была актуальной поговорка «никогда не выкладывай в Интернет то, что не понравилось бы увидеть твоей бабушке», то теперь — «никогда не делись с инструментом искусственного интеллекта информацией, которую неловко было бы увидеть на страницах Washington Post».
ИП Ивашкин Иван Викторович
ИНН:545210810088
erid:2SDnjbtKMJT
ООО "Коммуникационное агентство Эд Марк"
ИНН:6671376813
erid:2SDnjePTiMh
ИП Фомин Андрей Владимирович
ИНН:026806794930
erid:2SDnjesoFCX
Ищешь бизнес идею по твоим интересам и финансам?
Мы подготовили тест, который выявит идеальную бизнес-идею для тебя, соответствующую твоим уникальным потребностям и амбициям
