По словам менеджера OpenAI по продукту и разработке Ари Вайнштейна, новая функция позволяет ChatGPT «учиться на всем, что вы делаете на компьютере». В демонстрационном видео разработчик OpenAI Доминик Кундел показал, как нейросеть, получив доступ к истории действий, самостоятельно находит недавно открытые документы Google Docs и обращается к переписке в Slack, отвечая на вопросы пользователя.
В компании заявляют, что предусмотрели меры защиты: функция включается только вручную, а не по умолчанию, автоматически игнорирует приватный режим браузера, позволяет пользователям вручную исключать отдельные приложения из отслеживания, а также просматривать и удалять уже сохраненные «воспоминания».
Тем не менее у функции есть слабые места. Файлы истории действий содержат чувствительную информацию и не шифруются, а значит теоретически доступны другим программам на том же компьютере. Кроме того, ИИ может «читать» переписку в мессенджерах вроде Slack, даже если остальные участники разговора не давали на это согласия. Журналисты уже сравнивают Computer History с функцией Recall от Microsoft, которая ранее вызвала похожую волну критики за риски для приватности пользователей.
Функция доступна только в приложении ChatGPT для Mac и требует подписки Pro, Business или Enterprise — в бесплатной версии ее нет. Пользователям в Евросоюзе, Великобритании и Швейцарии Computer History пока недоступна вовсе, вероятно, из-за более строгих местных норм о защите данных. В отличие от Recall, которая делает и хранит скриншоты экрана прямо на устройстве, OpenAI скриншоты не сохраняет, а вместо этого обрабатывает события ввода на своих серверах — из-за этого у критиков возникают вопросы, где именно и как долго хранятся такие данные.
Еще одна неочевидная угроза, о которой OpenAI предупреждает сама, — риск так называемой prompt injection. Если пользователь зайдет на сайт со скрытыми вредоносными инструкциями, ChatGPT или его агент Codex могут невольно их выполнить — ведь все, что попадает в поле зрения функции, становится частью контекста модели.
Ранее мы писали о том, что OpenAI следит за разговорами пользователей ChatGPT и в отдельных случаях передает их полиции.