19 ноября нидерландский орган по защите данных рекомендовал потребителям пока не покупать очки с ИИ и камерой для повседневного использования. Он изучил шесть моделей, доступных в стране. Две прошли более подробные испытания в условиях, имитирующих ситуации, где от ответа зависит безопасность. Одна пара сообщила, что скорая уже едет, хотя экстренные службы не вызывали. Регулятор также нашёл недостатки сигналов записи, защиты программ и информации об использовании данных. Это рекомендация покупателям. Страна не ввела запрет на продажу этим объявлением. Рекомендация нидерландского органа по защите данных · Репортаж NOS

Представим двух человек у стойки клиники. Один носит очки, способные читать текст на бланке, другой отвечает на вопросы о приёме. Владелец слышит реплику помощника. Сосед может заметить свет или вовсе не распознать сигнала. Каждому нужно знать своё. Владелец должен понять, прочитали ли очки сведения или связались со службой. Человеку перед камерой нужно знать, захватило ли устройство часть разговора, отправило ли её или сохранило. Этот условный пример показывает, как полезная функция для одного создаёт неопределённость для другого.

Нидерландский тест ставит практический вопрос: может ли человек проверить работу устройства в момент, когда надо принимать решение? Для запросившего помощь нужна понятная отметка о результате. Людям рядом нужен сигнал о захвате. Им также нужны достоверные сведения о передаче данных. Очки могут ответить быстро, пока все три вопроса остаются открытыми.

Что можно узнать по шести моделям#

Отчёт датирован 18 ноября и был представлен вместе с рекомендацией следующего дня. Авторы называют работу выборочной проверкой безопасности продуктов с позиции надзора за ИИ. Они изучали устройство и документацию и смотрели, как отдельные модели реагируют в заданных ситуациях. У такого исследования другая задача, чем у расследования нарушения европейских правил конкретной компанией. Выборка показывает проблемы в некоторых продаваемых продуктах. Она не измеряет их распространённость на всём рынке и не связывает результаты со списком марок. Отчёт регулятора

В оправе могут находиться камера, микрофон и динамики. Она может подключаться к программе на телефоне и отправлять сведения внешним сервисам. У ряда моделей есть экран. Небольшое устройство становится входом в несколько систем. Оправа, чехол, телефон и удалённая служба могут иметь разные соединения и настройки конфиденциальности. Владелец видит одного помощника, а неполадки возникают в разных местах. Покупатель узнаёт об этих частях из конструкции и документации, поэтому исследователи проверяли их. Об устройстве очков в материале NOS · Отчёт регулятора

В выборку вошли шесть товаров, доступных покупателю. Для двух проводились испытания сложнее открытия меню. Эти основания важно различать. Ошибку в имитации экстренной ситуации обнаружили у одной пары. Она важна из-за того, к чему неподтверждённый ответ может привести в жизни. Исследование не даёт частоты для всех оправ, версий, языков и условий. Контрпример показывает возможность отказа заявленной защиты. Для оценки частоты нужны дополнительные наблюдения по определённой методике.

Испытания относятся к состоянию программ в определённый момент. У очков может обновиться прошивка, а помощник может измениться при прежней оправе. Отдельная версия исправляет точность одного ответа и оставляет прежними сигнал записи или удаление данных. В публикации об испытании полезно указывать версии и повторять важные проверки после изменений. Иначе продавец сошлётся на более новую программу, а регулятор на прежний сбой, и покупатель не узнает, исправлен ли конкретный экземпляр.

Регулятор признаёт полезные применения для слабовидящих, людей с трудностями чтения и других пользователей, которым нужна помощь в понимании окружающего. Очки могут прочитать этикетку, распознать предмет или помочь сориентироваться, оставляя руки свободными. Потребительский продукт должен описывать охват этой помощи и её ограничения. Человек, который зависит от звукового описания, может не иметь возможности сам проверить его взглядом. Поэтому безопасный способ подтвердить ответ важен и этим пользователям. Рекомендация нидерландского регулятора

Сообщение об операции и сама операция#

Вывод о скорой касается большего, чем ошибка в факте. Помощник сообщил о внешнем действии, которого не произошло. Услышав, что машина едет, человек может ждать. Если устройство подключено к службе связи, ему нужно различать подготовку запроса, отправку, соединение и полученное подтверждение. Связный ответ сам по себе не доказывает результат. Нидерландское исследование показывает случай, когда эта неопределённость может изменить последующее действие человека. Опубликованные результаты регулятора

Разница видна и в обычной задаче. Допустим, владелец просит отправить сообщение о том, что опаздывает. Черновик на телефоне и послание, доставленное адресату, представляют разные состояния, даже если помощник одинаково уверенно говорит о каждом. Зная достигнутое состояние, человек делает следующий шаг. В очках ответ может звучать через динамик или появляться на небольшом экране с ограниченным контекстом. Об ошибке, неопределённости и завершении следует сообщать там, где пользователь просит выполнить действие.

Регулятор сообщает об ошибках при работе с инструкциями к лекарствам, опасной погодой и защитой несовершеннолетних. Это моделируемые ситуации. Они выявляют способность помощника звучать убедительно при расхождении с реальным источником или отсутствии полномочий на действие. Команда может проверять эти границы на разных версиях. Отличает ли модель чтение этикетки от совета? Есть ли источник и время у сообщения о погоде? Избегает ли продукт обещать то, чего не может подтвердить? Так можно установить, где расходятся задача и доказательства. Краткие результаты нидерландского испытания

У помощи несколько уровней. Очки могут сделать текст доступным человеку, который обычно просит кого-то прочитать его вслух. В другой задаче ему может потребоваться официальный ответ или подтверждение службы. Хорошо продуманный продукт позволяет получить первую помощь, сохранив путь ко второй. Голосовое описание может ясно назвать распознанный предмет и доступные сведения. Обращение к человеку или нужной службе должно оставаться возможным, когда телефон в сумке или занят другой задачей.

Важность подтверждения зависит от времени. Человек, который ищет товар на полке, может уточнить неясный ответ. Тот, кто верит в отправку срочного сообщения, способен действовать сразу. Средняя доля ошибок не показывает различия в последствиях. Производитель может указать, какие функции описывают информацию, какие запрашивают действие и какой исход способны проверить. Читатель сможет узнать, испытывалась ли нужная ему задача, и как далеко доходит ответ устройства.

Продавцы показывают удачные звонки, перевод и съёмку. Эти результаты легко понять. Примеры сбоев позволили бы оценить продукт полнее. Можно показать предупреждение при отсутствии связи, отличия ответа от выполненной задачи и восстановление после неопределённого результата. Такие условия возникают в поезде, на улице и в шумном помещении. По ним видно, как устройство выполняет обещания там, где его действительно носят.

Сигнал нужен и тому, кто оказался перед камерой#

Нидерландский регулятор обнаружил, что в выборке индикаторы записи были малозаметными и давали неравномерную защиту. В нескольких моделях были проблемы безопасности, способные дать неуполномоченному человеку доступ к записям или управлению камерой. Информации о службах обработки и целях использования данных тоже было недостаточно. У производителя здесь разные задачи. Свет или звук информирует людей рядом. Программа защищает доступ. Приложение объясняет судьбу сведений после захвата. Рекомендация регулятора

Индикатор можно проверить с другой стороны оправы. У окна его легко принять за блик. При разговоре у стойки человек смотрит в глаза собеседнику, а не на угол оправы. Слабовидящему посетителю нужен другой сигнал. Уведомление должно соответствовать режиму захвата и быть заметным другим людям. Производитель также должен проверить, что устройство не может собирать данные без обещанного сигнала.

Европейский совет по защите данных описал похожий вопрос в октябрьском заявлении. Владелец может прочитать уведомление при настройке, а у человека в кадре может не быть отношений с поставщиком. Совет рассматривает сочетание информации, визуальных и звуковых сигналов. Уведомление на телефоне может дополнить их и доступно только людям с подходящими аппаратами и настройками. Прохожему заранее незачем скачивать программу из-за очков другого человека. Эти обстоятельства надо учитывать в конструкции. Заявление Европейского совета по защите данных

Сам сигнал сообщает о части происходящего. Он показывает активность, но может не сообщить, осталась ли запись на оправе, отправилась ли помощнику, передали ли её другому человеку или удалили. Голосовые функции и перевод иногда обрабатывают фрагменты без сохранения записи для владельца. Сведения о других людях могут всё равно использоваться. Документация может объяснить различия между временным захватом и дальнейшим использованием, а сигнал останется простым.

Редакционная схема: очки с камерой и слабым индикатором записи, силуэты прохожих и три пути данных — к устройству, облаку и третьей стороне.

Различие помогает сохранить полезные сценарии. Человек может попросить прочитать одно слово из меню, передав как можно меньше информации о соседях за столом. Краткая и ограниченная обработка подходит для такой цели. Непрерывная запись и длительное хранение относятся к другим задачам и затрагивают больше данных. Выбор надо объяснить до запуска функции, потому что к моменту чтения общего уведомления материал уже может покинуть устройство. Доступные варианты зависят от самой оправы и программ.

Возможность возразить зависит от места. В парке можно отойти или попросить выключить запись. Пациент у стойки, ребёнок в классе или сотрудник перед покупателем не всегда может уйти. Организация может заранее объяснить правила и дать сотрудникам способ реагировать на жалобы. Порядок должен учитывать возможности устройства, его действие в конкретном месте и потребности людей, которым нужны средства помощи.

Правила должны работать в общественных местах#

Нидерландский орган советует владельцам и управляющим запретить ношение и использование очков с камерой во внутренних правилах. Это даёт предприятиям, школам и учреждениям отправную точку. Решение конкретного места имеет иные последствия, чем общенациональный запрет на продажу. Организация может указать, где действует правило и как персонал проверяет соблюдение. Человек, использующий устройство для чтения, должен понимать, какие варианты ему предложат. Разговор в спешке на входе позволяет применять правило непоследовательно. Рекомендации регулятора

В приёмной больницы одни посетители хотят прочитать указатели, а другие сообщают конфиденциальные сведения. У стойки могут действовать более строгие меры, чем во дворе. Правило должно учитывать обе задачи. Варианты включают крупную печать, помощь сотрудника, обращение без камеры или определённый порядок использования средств доступности. На входе нужно направить человека к подходящей помощи. Сотрудники должны уметь исполнить правило без публичного обсуждения чужого состояния здоровья.

Учреждение может выяснять, как часто требуется исключение и помогает ли предложенный вариант. Устройство для чтения может пригодиться в зоне ожидания, где никто не сообщает данные о приёме. Обещание помощи на стенде приносит мало пользы, если сотрудника удаётся найти только в конце визита. Обсуждение с пользователями средств доступности помогает выявить расхождения. Важно, можно ли выполнить ту же задачу конфиденциально и с достаточной самостоятельностью в загруженном здании.

В школе свои обстоятельства. Ученик может нуждаться в вспомогательном средстве и одновременно рисковать попасть в чужую запись. Школе нужно объяснять, что считается съёмкой урока или другого ученика. Правила могут описывать разрешённую учебную цель, условия распространения и способ сообщить о проблеме. Устройство на лице усложняет наблюдение за ситуацией, если его состояние невозможно увидеть с первого взгляда.

Европейский совет указывает, что ответственность может лежать на пользователе, производителе или поставщике приложения. Она зависит от того, кто определяет цели и способ обработки. В предварительном заявлении он описывает исключение для сугубо личных и домашних действий как узкое и зависящее от обстоятельств. Публикация для неопределённого круга людей или профессиональное применение могут порождать другие обязанности. Местные правила также имеют значение. Нидерландский совет покупателям, порядок конкретной организации и оценка одной записи отвечают на разные вопросы. Заявление Европейского совета

Более ранние обсуждения показывают разнообразие нужд. В одном споре на Reddit за несколько месяцев до нидерландского объявления одни участники выступали за очки без камер, а другие напоминали о зрительной помощи людям, которым трудно рассмотреть окружение. Это выборка из одного разговора, по которой нельзя судить об общем мнении. Полезно различать устройства по действиям, которые они выполняют. Так становится яснее, какие условия подходят каждой группе. Обсуждение

Какие изменения сможет проверить покупатель#

Нидерландская ассоциация потребителей Consumentenbond отдельно подала иск к Meta. По её сообщению, слушание назначено на 26 ноября в Амстердаме. Ассоциация требует изменить конструкцию и настройки по умолчанию или ограничить продажи, если компания не может выполнить изменения. Она также обсуждает исключение для медицинской потребности. Это требования стороны. Регулятор не указал, каким моделям принадлежали результаты. Reuters сообщила, что Meta рассматривала ответ. Судебная процедура может добавить сведения о конкретном производителе и продукте. Сообщение Consumentenbond · Репортаж Reuters

По данным Reuters, Meta ранее заявляла, что её модели с камерами включают заметный свет при съёмке фото или видео. Для проверки утверждения о конкретном устройстве и выводов по неназванной выборке требуются разные сведения. Производитель может назвать испытанные модели и версии, условия видимости и порядок доставки исправлений. Покупатель получит возможность сопоставить эти сведения с наблюдениями регулятора.

К условиям работы с данными нужно применить ту же ясность. Покупатель может хотеть сфотографировать предмет и сохранить снимок вне удалённой службы. Другой готов использовать облако для перевода большого текста, если материал хранится недолго. Задачи требуют разных вариантов. Описание может указать, что остаётся в оправе или телефоне, что передаётся, как удалить данные и влияют ли настройки аккаунта. Люди рядом с камерой получат основу, чтобы выяснить, у кого находится информация о них.

Изменения после покупки столь же важны, как установка. Если приложение добавляет внешнюю функцию или меняет настройки по умолчанию, владелец должен увидеть это до новой записи. Отключение должно находиться и действовать после обновлений. Повседневный прибор можно одолжить члену семьи или продать. Понятный сброс позволяет следующему владельцу увидеть активные функции, а предыдущему удалить аккаунт. Такие детали входят в обслуживание устройства, обрабатывающего сведения об окружающих.

Независимая проверка может показать работу одной оправы при дневном свете, в темноте и в шумном пространстве. Можно попросить владельца и окружающих определить, шла ли запись, привлечь людей со вспомогательными устройствами и проверить, различают ли они выполненную операцию и предложение. Новая версия способна изменить один результат. Описание границ испытания помогает увидеть, что действительно изменилось.

Камера переместилась из телефона, который человек поднимает рукой, в оправу, которую можно носить весь день. У стойки клиники обеим сторонам может быть полезна надёжная помощь с ясным индикатором съёмки. Им также нужно знать, что происходит с данными разговора. Нидерландское предупреждение указывает, какие условия стоит проверять до расширения рынка. Доверие будет зависеть от того, способны ли обе стороны понять действия устройства в момент принятия решения.