Учёный Курушин обсудил, какие данные не стоит доверять нейросетям, и как это может повлиять на надежность выводов в научных исследованиях.
Искусственный интеллект всё активнее проникает в различные сферы жизни, помогая людям в учебе, работе и повседневных задачах. Сегодня такие сервисы, как ChatGPT, обрабатывают миллиарды запросов каждый день, при этом информация о взаимодействиях сохраняется для совершенствования алгоритмов. Однако эксперты предупреждают, что есть информация, которую не следует передавать таким системам.
В Пермском политехническом университете объяснили, что использование ИИ связано с определёнными рисками для обеспечения конфиденциальности, сообщает RT. По данным, около 200 миллионов пользователей ежедневно обращаются к ChatGPT, а общее количество запросов превышает миллиард. Даниил Курушин, доцент кафедры «Информационные технологии и автоматизированные системы» ПНИПУ и кандидат технических наук, акцентировал внимание на необходимости осторожного подхода к общению с чат-ботами.
Он указал, что каждая сессия чата фиксируется под уникальным идентификатором, что даёт разработчикам возможность собирать информацию о контексте разговоров и использовать её для улучшения модели. По словам ученого, компании имеют разные подходы к вопросу хранения данных, и, как правило, проверить их заявления невозможно из-за коммерческой тайны, что делает доверие к подобным источникам крайне осторожным.
Курушин отметил, что полагаться на полную безопасность в работе с ИИ не стоит. Потенциально доступ к данным могут получить как злоумышленники, так и специальные службы. Хотя прямых доказательств подобной угрозы нет, специалист советует исходить из наихудших сценариев — предполагать, что информация может быть перехвачена и использована против пользователя.
Он также отметил существование цифровых ловушек: хакеры могут создавать подделки чатов, интегрируя их в мессенджеры, соцсети или приложения с целью сбора личных данных. Особенно опасно делиться такими сведениями, как паспортные и банковские данные, номер телефона, домашний адрес и конфиденциальная информация, поскольку это может повлечь за собой не только утечку данных, но и серьёзные юридические последствия, вплоть до уголовной ответственности.
Даже обычные разговоры могут быть использованы для анализа предпочтений и интересов пользователей. Однако аналогичные сведения можно получить и через поисковые сервисы или соцсети, что снижает уровень риска в данном контексте.
Курушин добавил, что полное обеспечение безопасности возможно только в случае, если сервис установлен на устройстве самого пользователя и правильно настроена сетевая инфраструктура. Также он подчеркнул, что полагаться на ответы нейросетей без критической оценки не стоит. Лучше размышлять над полученной информацией, особенно в тех областях, где у человека есть достаточные знания. В остальных случаях надёжнее обращаться к авторитетным энциклопедическим источникам и консультироваться с профессионалами.
В свете увеличения числа угроз, связанных с утечками данных, пользователям рекомендуется настроить двухфакторную аутентификацию и использовать пароли уникальной сложности для защиты личных аккаунтов. Также важно внимательно изучать политику конфиденциальности сервисов, которыми вы пользуетесь, и избегать делиться своей личной информацией, если это не абсолютно необходимо.
