Могут ли нейросети быть опасными: что о вас узнают мошенники, если взломают ИИ

«Приложение DeepSeek для iOS — это кошмар безопасности». Именно с такими заголовками несколько дней назад вышли публикации в различных изданиях по всему миру.

Эксперты по кибербезопасности из NowSecure выяснили, что DeepSeek передает личные данные в незашифрованном виде, поэтому они становятся легкой добычей для злоумышленников. Удивительно, что до сих пор не было крупных утечек. Во-вторых, эти данные отправляются на серверы, которые принадлежат китайской компании ByteDance. Чем опасно хранение информации за рубежом, думаем, рассказывать не нужно.

Кроме того, DeepSeek собирает слишком много данных о пользователях — гораздо больше, чем необходимо для его работы. И проблема не только в количестве, но и в том, как эта информация хранится. Эксперты утверждают, что защита данных организована на крайне низком уровне. К тому же приложение использует устаревший метод шифрования 3DES, который специалисты признали ненадежным еще несколько лет назад.

В общем, мы, начитавшись пугающих новостей, решили разобраться, какие ваши данные необходимы ИИ для работы и что случится, если доступ к ним получат злоумышленники.

Зачем ИИ ваши данные

Итак, сперва давайте выясним, как и зачем ИИ собирает ваши данные. Иногда это происходит довольно очевидно — когда вы вводите свою почту для оплаты подписки на онлайн-кинотеатр или разрешаете приложению доступ к контактам. Но бывает и иначе: данные о вас могут собираться без вашего ведома.

Вы когда-нибудь замечали, что стоило вам поговорить о чем-то вслух, как на следующий день вы увидели рекламу этого товара? Одна наша коллега жаловалась, что недавно во время обеда в шутку обсуждала с подругой покупку кота и после этого поисковики начали предлагать ей кошачий корм в браузере.

Уже давно не секрет, что ИИ собирает не только то, что вы вводите в поисковик, но и с ваших голосовых команд, фотографий, видеозаписей и даже привычек передвижения. Например, вы скачали некое приложение, позволяющее обнаружить машину на парковке. Функционал максимально прост. Вы просто фотографируете свой автомобиль, чтобы потом легко его найти. Безобидная функция, не так ли? Но вот нюанс: ИИ не просто фиксирует геолокацию снимка, он также может случайно запечатлеть людей на заднем плане, район, где вы припарковали авто и даже то, какое расстояние между вашей машиной и другими.

Теоретически эти данные могут заинтересовать страховые компании. Захотите оформить страховку — и вдруг окажется, что цена выше, потому что вы часто оставляете машину в потенциально небезопасных районах и к тому же любите притираться к другим участникам движения. Нет, никто за вами специально не следил. Вы сами абсолютно добровольно отправили все данные.

Какие компании используют ваши данные

Понимаем, что все это похоже на теорию заговора или очередной сезон «Черного зеркала». Но, увы, это все чистая правда. Google, например, годами сканировал электронные письма пользователей, чтобы показывать таргетированную рекламу.

Пишете другу, что ищете новую приставку? На следующий день видите объявления от магазинов электроники. Скажете, что это совпадение? Возможно. Но в 2017 году компания официально признала, что анализировала содержимое писем в Gmail в рекламных целях и лишь под давлением общественности отказалась от этой практики.

И не только Google. Пара скелетов в шкафу есть и у Meta*. Стоит вспомнить скандал с Cambridge Analytica, когда данные миллионов пользователей Facebook* (запрещенная в России экстремистская организация) были проданы третьим лицам и использованы в политических целях. Компания тогда получила рекордный штраф в 5 миллиардов долларов.

Часто ли взламывают ИИ?

На самом деле нет. Все данные довольно хорошо защищены. Пожалуй, одной из наиболее резонансных стала ситуация, которая случилась в начале 2023 года. Тогда атаке подверглась внутренняя система OpenAI.

Хакер получил доступ к закрытому корпоративному форуму, где сотрудники обсуждали работу технологий компании, и похитил часть конфиденциальной информации. Хотя критически важные системы, в которых хранятся алгоритмы и данные пользователей, не пострадали, сам факт взлома вызвал обеспокоенность не только у руководства OpenAI, но и на уровне национальной безопасности США.

Самое интересное, что компания сообщила о случившемся лишь ограниченному кругу сотрудников и совету директоров, решив не делиться подробностями с общественностью. Руководство посчитало, что ущерб незначителен, ведь данные клиентов и партнеров не были затронуты. К тому же, по предварительной информации, за атакой стоял не организованный хакерский коллектив и не иностранное государство, а одиночный злоумышленник.

Какие данные обычно собирает ИИ

Вы когда-нибудь задумывались, что происходит с вашими разговорами с нейросетью после того, как вы нажимаете «Отправить»? Например, OpenAI сохраняет ваши диалоги и использует их для улучшения своей языковой модели. Вполне возможно, что ваши запросы и ответы могут просматриваться живыми людьми, которые работают над развитием искусственного интеллекта.

В разделе часто задаваемых вопросов OpenAI прямо указывает: если вы пользуетесь ChatGPT или DALL-E, ваши запросы, ответы, загруженные изображения и сгенерированные картинки могут использоваться для улучшения сервисов. А пока у вас активна учетная запись, все эти данные будут храниться.

Но дело не только в диалогах. При регистрации OpenAI собирает ваш email и номер телефона, а затем и другие данные. В их числе — информация о геолокации, история сетевой активности, коммерческие данные (например, список покупок), идентификаторы, файлы cookie и даже ваш IP-адрес.

Согласно политике конфиденциальности OpenAI, вся эта информация может быть передана аффилированным лицам, подрядчикам, правоохранительным органам и компаниям, участвующим в различных сделках. Помимо этого фиксируется информация об устройстве: название, операционная система, браузер. Если вы обращаетесь в службу поддержки, все ваши переписки с ней также остаются в системе.

Но и это еще не все. Если вы взаимодействуете с официальными страницами OpenAI в соцсетях, данные о вас могут поступать через агрегированные отчеты Facebook* (запрещенная в России экстремистская организация), Instagram* (запрещенная в России экстремистская организация) или X (ex-Twitter).

Можно ли обезопасить себя, например, используя VPN? Частично. Он действительно скроет ваш реальный IP и местоположение, но так как OpenAI собирает множество других данных, включая ваш номер телефона, ваша анонимность все равно остается под вопросом.

Чем это может быть опасно

Что же, мы выяснили, что нейросети действительно собирают на вас досье. Но какие риски существуют, если ваши данные попадут в руки злоумышленников?

Во-первых, самое очевидное: компании могут использовать утекшие данные, чтобы навязывать рекламу, подстраивать ленту соцсетей и даже влиять на политические взгляды.

Во-вторых, хакеры смогут собрать ваш полный профиль: где живете, что покупаете, какие сайты посещаете. Это открывает дорогу фишингу: вам могут написать мошенники, выдавая себя за службу доставки или ваш банк.

В-третьих, ваша откровенность с ИИ может сыграть против вас. Если с нейросетью вы обсуждали финансы, работу или что-то личное, эти данные могут использовать страховые компании, работодатели и многие другие.

Кроме того, IP-адрес, история активности, файлы cookie — все это помогает преступникам обходить двухфакторную аутентификацию и взламывать аккаунты в банковских предложениях.

Вместо вывода лишний раз посоветуем соблюдать правила цифровой гигиены. Не надо обсуждать с нейросетью конфиденциальную информацию, стоит внимательно следить, кому и что вы отправляетеЮ и не переходить по подозрительным ссылкам.

* Meta и ее продукты Facebook (запрещенная в России экстремистская организация) и Instagram (запрещенная в России экстремистская организация) признаны экстремистской организацией в России.