Apple будет просматривать фотографии пользователей в iCloud чтобы защитить детей

Компания Apple анонсировала инициативы, направленные на защиту малолетних пользователей яблочной техники, такой как iPhone, iPad и Mac, чем вызвала резонанс в обществе. Дело в том, что речь идет не только об ограничении поисковых функций относительно запрещенного контента, но и обнаружения материалы, которые содержат признаки насилия в облачном хранилище. Проще говоря, Apple будет изучать фото пользователей, хранящиеся в iCloud.

Как Apple будет проверять фотографии

В настоящий момент система проверки контента еще не введена, однако она начнет работать уже в этом году с выходом iOS 15. Но это вовсе не значит, что фотографии пользователей будут изучать живые люди. Applе разработала технологию, которая позволяет анализировать контент прямо на устройстве. Она основана на технологии нейросетей и машинного обучения. В случае обнаружения запрещенных снимков, они с информацией о владельце будут передаваться в правоохранительные органы.

Эту информацию Apple сообщила на официальном сайте. Пока о проверке фото в памяти устройства речи не идет, однако Мэтью Грин, профессор университета Джона Хопкинса сообщил, что проверка будет реализована внутри операционной системы. И, в случае выявления запрещенного контента, информация будет передаваться сотрудникам компании. Поэтому не исключено, что вскоре проверка коснется и файлов, которые хранятся и во внутренней памяти.

Apple будет блокировать фото в сообщениях

Apple также сообщила, что новые инструменты обнаружения запрещенного контента будут внедрены в приложение “Сообщения”. На практике это выглядеть так — если ребенок получает сообщение с откровенной фотографией, он ничего не увидит так как снимок будет размытым. При этом появится сообщение, о том, что контент запрещен.

Несмотря на предупреждение, ребенок сможет попытаться открыть фотографию. В таком случае он получит второе сообщение о том, что об этом действии будет сообщено другим пользователям iCloud Family. Если ребенок согласен, фотография станет доступной для просмотра. Это правило будет касаться детей, которые не достигли 13-летнего возраста.

Также новые правила коснуться голосового помощника Siri. Он также будет предупреждать о запрещенном контенте. При соответствующем запросе даже подскажет куда обратиться, если зафиксирован факт насилия над несовершеннолетним.

Правда, еще непонятно, как эта функция будет работать в других странах и на каком основании Apple будет собирать конфиденциальную информацию иностранных граждан. Теоретически возможно, что компания заключит соглашение с правительством тех стран, где будет работать эта опция. В таком случае информация будет передаваться непосредственно в правоохранительные органы.