Глава Signal говорит, что ИИ-агенты хотят получить доступ к вашей личной жизни

Signal Президент Meredith Whittaker предупредила, что пользователям не следует относиться к ИИ-чатботам как к друзьям, доверенным лицам или сознательным собеседникам в личных разговорах.

Предупреждение Signal

Whittaker сделала эти заявления в интервью Bloomberg о политике, конфиденциальности и Signal, где её спросили о рисках для приватности, связанных с чатботами, такими как ChatGPT и Claude. «Это не ваши друзья. Это не сознательные существа. Это не разумные собеседники», — сказала она.

Она отметила, что иногда использует инструменты ИИ «для форматирования документа здесь и там», но не задаёт им вопросов. Whittaker сказала, что «очень серьёзно» относится к своему мышлению и письму и не хочет, чтобы этот процесс прерывался системой, «усредняющей то, что уже есть».

Её комментарии вписываются в более широкую позицию Signal о том, что частная переписка не должна становиться входными данными для систем, построенных на широком доступе к данным. Предупреждение было сформулировано не как отказ от любого использования ИИ, а как отказ от отношения к чатботам как к доверенным личным собеседникам.

Читайте также: Bitcoin Reclaims $64K On $39B Rally But Spot Demand Weakens

Конфиденциальность ИИ

Whittaker также оспорила сценарий генерального директора Microsoft AI Mustafa Suleyman, который предсказал, что пользователи смогут доверить Microsoft Copilot все свои рождественские покупки в этом году. Она сказала, что такая система потребует широкого доступа к персональным данным для работы в описанном режиме.

Этот доступ, по её словам, может включать кредитную карту, браузер, Signal, возможность отправлять сообщения родственникам, домашний адрес и календарь. «То, что вы только что описали, — это система с очень широким доступом к множеству приложений и сервисов», — сказала Whittaker.

Она добавила, что в контексте Signal это равнозначно «своего рода бэкдору».

Её суть состоит в том, что агентные ИИ-ассистенты меняют вопрос конфиденциальности, поскольку они не только отвечают на запросы, но и могут требовать разрешения на действия в рамках различных сервисов.

Дискуссия отражает более широкий сдвиг на рынке ИИ — от чатботов, работающих внутри одного приложения, к ассистентам, которые могут планировать, совершать покупки, отправлять сообщения и составлять расписание. Это делает доступ, а не только качество вывода, центральным вопросом в дискуссиях о конфиденциальности потребительского ИИ.

Читать далее: Saylor Fires Back As Strategy Bitcoin Reserves Beat Debt By $48B