СПОСОБ И УСТРОЙСТВО ДЛЯ МОДЕРАЦИИ НЕЖЕЛАТЕЛЬНОГО И НЕДОПУСТИМОГО КОНТЕНТА

СПОСОБ И УСТРОЙСТВО ДЛЯ МОДЕРАЦИИ НЕЖЕЛАТЕЛЬНОГО И НЕДОПУСТИМОГО КОНТЕНТА

Выданный патент: RU2872863C1 Дата публикации: 2026-10-28 Заявитель / патентообладатель: САМСУНГ ЭЛЕКТРОНИКС КО., ЛТД. (KR) Классификация: G06T7/10 G06F16/35 G06F18/24 G06F40/30 G06V10/764 G06V10/82 G06N20/00 G06F7/10 G06F16/353 G06F18/2431 G06F40/30 G06V10/764 G06V10/82 G06N20/00

Реферат [190] Настоящее изобретение в целом относится к области информационных технологий, более конкретно - к распознаванию и/или пониманию изображения или видео при помощи машинного обучения, а именно к модерации нежелательного контента и контента NSFW на пользовательском оборудовании (UE). Предложены способ, устройство, пользовательское оборудование и машиночитаемый носитель информации для модерации, т.е. обнаружения и блокировки отображения на пользовательском оборудовании недопустимых, оскорбительных изображений, содержащих нежелательные визуальные артефакты, и/или «недопустимого на работе» контента NSFW, предпочтительно сгенерированных с помощью ИИ, в мобильных и настольных вычислительных устройствах, выполненных с возможностью как генерации, так и просмотра визуального контента. Способ включает в себя: получение сгенерированного изображения; обнаружение на полученном изображении одной или более областей интереса (ROI), извлечение детализированного векторного представления локальных признаков (например, текстуры кожи, деталей одежды) из каждой области интереса; извлечение глобального семантического векторного представления признаков (например, контекста сцены, художественного стиля изображения) из полученного изображения; объединение детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков, для получения объединенного, насыщенного контекстом векторного представления признаков изображения; классификацию объединенного насыщенного контекстом векторного представления признаков изображения, по результатам которой осуществляют модерацию входного изображения, подлежащего отображению на пользовательском оборудовании, как допустимого или недопустимого изображения. 4 н. и 10 з.п. ф-лы, 9 ил.

Описание [1] Область техники, к которой относится изобретение [2] Настоящее изобретение в целом относится к области информационных технологий, более конкретно - к распознаванию и/или пониманию изображения или видео при помощи машинного обучения, а именно к модерации нежелательного и «недопустимого на работе» (NSFW, сокращение от англ. Not Safe For Work) контента на пользовательском оборудовании (UE). [3] Термином «контент NSFW» чаще всего обозначается недопустимый, оскорбительный, и даже непристойный контент, просмотр которого несовершеннолетними, либо взрослыми, но в неподобающей обстановке (например, на работе или в публичных местах), крайне нежелателен. Настоящее изобретение может быть использовано для модерации, т.е. обнаружения и блокировки отображения на пользовательском оборудовании, недопустимого контента и контента NSFW в мобильных и настольных вычислительных устройствах, выполненных с возможностью как генерации, так и просмотра визуального контента. Таким образом, настоящее изобретение может быть использовано не только в пользовательском оборудовании, которое генерирует изображения с помощью генеративных нейросетевых моделей, но и в любом пользовательском оборудовании, которое выполнено с возможностью просмотра изображений. Например, во время редактирования фотографий - в частности при удалении объекта в приложении-галерее - система может автоматически блокировать результаты, содержащие нежелательные визуальные артефакты или контент NSFW. Это гарантирует, что благодаря настоящему изобретению будет предотвращено отображение на пользовательском оборудовании недопустимого контента и контента NSFW, либо сгенерированного непосредственно на данном UE, либо заранее сохраненного на данном UE, либо загруженного по сети Интернет. Следовательно, целевым устройством, в котором может быть использовано настоящее изобретение, является пользовательское оборудование (UE), представляющее собой вычислительное устройство (например, смартфон, ноутбук), способное выполнять визуальный анализ и отображение изображений. [4] Предлагаемое изобретение может быть использовано в таких приложениях, как: [5] Программные пакеты для редактирования изображений, [6] Приложения для родительского контроля, [7] Социальные сети и контент-платформы, [8] Приложения для обмена сообщениями и связи, [9] Инструменты для творчества и создания контента с использованием генеративного искусственного интеллекта (ИИ), [10] Приложения для создания аватаров. [11] Уровень техники [12] Одной из постоянных проблем, имеющихся в уровне техники моделей генерации изображений, или, иначе, генеративных моделей, является их склонность к созданию нереалистичных, неестественных и даже шокирующих для наблюдателя-человека визуальных артефактов, анатомических несоответствий и других форм искажений изображения, которые большинство людей считают нежелательными и недопустимыми. Улучшения в этой области до настоящего времени были сосредоточены на модификации самих генеративных моделей. Однако эти улучшения являются неполными и не предотвращают возможность генерации недопустимых, т.е. низкокачественных с точки зрения правдоподобия или неприятных, а порой и шокирующих изображений. Кроме того, существующие механизмы безопасности, предназначенные для подавления контента NSFW, остаются ограниченными, поскольку они тесно связаны с конкретными генеративными моделями и не обладают достаточной надежностью и устойчивостью при осуществлении модерации визуального контента. [13] Таким образом, в связи с бурным развитием в последнее время генеративных моделей визуальной информации, становящихся все более общедоступными, в том числе и для детей, становится все более актуальной проблема модерации, т.е. отсеивания изображений, являющихся явно нереалистичными, анатомически неестественными, шокирующими и даже непристойными для наблюдателя, а также изображений, которые могут быть отнесены к контенту NSFW. [14] Для решения вышеозначенных проблем в уровне техники обсуждаются и применяются различные подходы. [15] Например по адресу в сети Интернет https://thunderdungeon.com/2024/10/06/ai-fails-23-hilariously-bizarre-images-generated-by-ai/ опубликована статья, озаглавленная «AI Fails: 23 Hilariously Bizarre Images Generated by AI» (Неудачи искусственного интеллекта (ИИ): 23 уморительно неестественных изображения, созданных ИИ), посвященная проблематике того, что ИИ способен генерировать визуальный контент, содержащий порой странные, смешные и нереалистичные, но также порой недопустимые, оскорбительные и даже непристойные результаты, заставляющие задуматься, действительно ли искусственный интеллект понимает, что он делает. Приведенные в данной статье примеры нереалистичных и даже шокирующих изображений, созданных ИИ, являются напоминанием о том, что роботам еще многому предстоит научиться. Приведенные в данной статье примеры искаженных лиц, которые выглядят так, будто они из фильма ужасов, животных со слишком большим количеством ног или совершенно неизвестных науке видов - эти изображения, созданные ИИ, доказывают, что технологии еще не готовы заменить человеческое творчество. [16] Также по адресу в сети Интернет https://deliveredsocial.com/spotting-ai-generated-content-red-flags-in-text-images-and-videos/ опубликована статья, озаглавленная «Spotting AI-Generated Content: Red Flags in Text, Images, and Videos» («Как распознать контент, созданный с помощью ИИ: настораживающие признаки в тексте, изображениях и видео»), посвященная проблематике того, как распознавать и максимально эффективно использовать контент, созданный с помощью ИИ. [17] Известно решение, раскрытое в патентном документе US 11423265 B1, опубл. 23.08.2022, принадлежащее Amazon Technologies Inc. В данном решении раскрыта система классификации изображений с использованием двух отдельных классификаторов: классификатора на уровне областей, анализирующего обнаруженные области интереса на изображении, и глобального классификатора, анализирующего все изображение целиком. Затем выходные данные классификаторов объединяются с помощью сети агрегации, что приводит к окончательному решению о классификации. Однако в данном решении из предшествующего уровня техники объединение происходит только на уровне выходных данных классификаторов, а не на уровне векторного представления признаков. Поэтому данная архитектура ориентирована на объединение двух независимых прогнозов, а не на совместное моделирование взаимодействия между локальными областями и глобальной сценой. Кроме того, решение, раскрытое в патентном документе US 11423265 B1 не предназначено для обнаружения визуальных артефактов или искажений, создаваемых генеративными моделями, и не способно выявлять разнообразные уникальные случаи создания изображений, являющихся явно нереалистичными, анатомически неестественными, сгенерированных искусственным интеллектом (ИИ). [18] Несмотря на то, что данное решение является наиболее близким аналогом для настоящего изобретения, тем не менее данное известное решение обладает рядом недостатков, на преодоление которых направлено настоящее изобретение, которое, в свою очередь, целенаправленно выявляет области, подверженные появлению генеративных артефактов (например, руки, лицо, конечности, оружие, кровь), и объединяет локальные и глобальные представления для идентификации как контента NSFW, так и генеративных артефактов, обеспечивая механизм безопасности, специально адаптированный для современных систем генеративного ИИ. Кроме того, настоящее изобретение осуществляет раннее, основанное на механизме внимания, объединение локального и глобального векторных представлений, что обеспечивает значительно более глубокое контекстное понимание и более высокую точность классификации изображения как допустимого или недопустимого для отображения. [19] Резюмируя вышесказанное, существующие в уровне техники способы обнаружения контента NSFW демонстрируют фундаментальные ограничения, включающие в себя узкую специфичность задачи, зависимость от модели и неспособность к применению на различных генеративных архитектурах. Известные из уровня техники подходы основаны на жестких классификаторах или специфических для генератора мерах защиты, которые не решают уникальные проблемы визуальных артефактов, создаваемых ИИ. Крайне важно, что существующие в уровне техники решения игнорируют критически важную область нарушений визуальной целостности - таких как анатомические искажения, структурные аномалии и биомеханические невозможности, - которые зачастую вносят визуальный дискомфорт для наблюдателя в изображениях, сгенерированных ИИ. [20] Таким образом, в уровне техники имеется потребность в создании модельно-независимой архитектуры, которая бы сочетала многомасштабную интеграцию признаков с универсальными протоколами обнаружения дефектов. Эта новая архитектура должна позволять одновременно идентифицировать как контент NSFW, так и недопустимые артефакты, которые вносят визуальный дискомфорт для наблюдателя, посредством двунаправленного локально-глобального анализа, достигая беспрецедентной точности при сохранении производительности в реальном времени на гетерогенных генеративных платформах. [21] Техническая задача, на решение которой направлено настоящее изобретение [22] В целом, несмотря на то, что современные генеративные модели ИИ способны создавать разнообразные и высококачественные изображения, они по-прежнему часто генерируют нежелательные визуальные артефакты, искаженные анатомические структуры и контент NSFW, что создает проблемы с надежностью и безопасностью для конечных пользователей. [23] Известные из уровня техники подходы пытаются уменьшить количество нежелательных артефактов путем улучшения самой генеративной модели, однако эти решения остаются недостаточными и ненадежными. Существующие системы модерации недопустимых изображений обычно классифицируют отдельные области изображения независимо друг от друга, не понимая, как эти области взаимодействуют с глобальным семантическим контекстом, представленным на анализируемом изображении. В результате они зачастую не способны обнаруживать неочевидные нежелательные артефакты и контекстно-зависимый контент NSFW, что приводит к ошибкам модерации визуального контента. [24] В частности, известные из уровня техники подходы имеют следующие ограничения: [25] - Низкая надежность и точность: многие нежелательные визуальные артефакты и контент NSFW по-прежнему обходят существующие фильтры и попадают к конечным пользователям. [26] - Отсутствие универсальности: известные из уровня техники решения часто тесно связаны с конкретной генеративной моделью и не являются независимыми от модели, что ограничивает их применимость в реальных системах. [27] - Отсутствие глубокого объединения признаков на уровне отдельных областей: решения по вопросам модерации недопустимых изображений обычно принимаются на основе независимых региональных или глобальных классификаторов, а не на основе насыщенных семантическим контекстом объединенных представлений признаков. [28] Следовательно, технической задачей, на решение которой направлено настоящее изобретение, является преодоление недостатков известных из уровня техники решений. [29] Положительные эффекты изобретения [30] Настоящее изобретение позволяет осуществлять в режиме реального времени на мобильных устройствах классификацию изображений, подлежащих отображению, как допустимых или недопустимых для отображения (в зависимости от наличия на изображениях нежелательных визуальных артефактов и/или контента NSFW), с высокой надежностью и точностью, которые не зависят от конкретной генеративной модели, использованной для генерации изображения. [31] Сущность изобретения [32] В первом аспекте настоящего изобретения обеспечен способ модерации недопустимых изображений на пользовательском оборудовании, выполненном с возможностью отображения визуального контента, содержащий этапы, на которых осуществляют: [33] получение, в нейронной сети для модерации недопустимых изображений, выдающей результаты своей работы в пользовательское оборудование и обеспечивающей модерацию изображений, входного изображения, подлежащего отображению на пользовательском оборудовании; [34] обнаружение, с помощью блока обнаружения областей интереса, на полученном изображении одной или более областей интереса (ROI), соответствующих областям, связанным с нежелательными визуальными артефактами и/или недопустимым контентом; [35] извлечение, с помощью блока извлечения локальных признаков, детализированного векторного представления локальных признаков из каждой области интереса; [36] извлечение, с помощью блока извлечения глобальных признаков, глобального семантического векторного представления признаков, представляющего общий контекст изображения; [37] объединение, с помощью блока объединения признаков изображения, детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков, для получения объединенного, насыщенного контекстом векторного представления признаков изображения; и [38] классификацию, с помощью блока классификации, объединенного насыщенного контекстом векторного представления признаков изображения, по результатам которой осуществляют модерацию входного изображения, подлежащего отображению на пользовательском оборудовании, как допустимого или недопустимого изображения. [39] В дополнительном аспекте настоящего изобретения пользовательское оборудование выполнено с возможностью генерации изображений с помощью генеративного искусственного интеллекта (ИИ). [40] В дополнительном аспекте настоящего изобретения нейронная сеть для модерации недопустимых изображений находится в пользовательском оборудовании. [41] В дополнительном аспекте настоящего изобретения нейронная сеть для модерации недопустимых изображений находится вне пользовательского оборудования и осуществляет модерацию недопустимых изображений с помощью облачных вычислений. [42] В дополнительном аспекте настоящего изобретения обнаружение одной или более областей интереса (ROI) на полученном изображении дополнительно содержит: [43] извлечение из изображения масок явных областей, соответствующих анатомическим частям на изображении и объектам, соответствующим «недопустимому на работе» контенту (NSFW); и [44] извлечение из изображения масок ключевых точек, соответствующих областям суставов на изображении; [45] и в котором ROI определяются на основе масок явных областей и масок ключевых точек. [46] В дополнительном аспекте настоящего изобретения объединение детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков осуществляется с помощью модифицированного блока перекрестного внимания на основе механизма перекрестного внимания. [47] В еще одном аспекте настоящего изобретения обеспечено устройство для модерации недопустимых изображений на пользовательском оборудовании, выполненном с возможностью отображения визуального контента, содержащее: [48] нейронную сеть для модерации недопустимых изображений, получающую входное изображение, подлежащее отображению на пользовательском оборудовании, выдающую результаты своей работы в пользовательское оборудование и обеспечивающую модерацию изображений; [49] блок обнаружения областей интереса для обнаружения на полученном изображении одной или более областей интереса (ROI), соответствующих областям, связанным с нежелательными визуальными артефактами и/или недопустимым контентом; [50] блок извлечения локальных признаков для извлечения детализированного векторного представления локальных признаков из каждой области интереса; [51] блок извлечения глобальных признаков для извлечения глобального семантического векторного представления признаков, представляющего общий контекст изображения; [52] блок объединения признаков изображения для объединения детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков, для получения объединенного, насыщенного контекстом векторного представления признаков изображения; [53] блок классификации для классификации объединенного насыщенного контекстом векторного представления признаков изображения, по результатам которой осуществляют модерацию входного изображения, подлежащего отображению на пользовательском оборудовании, как допустимого или недопустимого изображения. [54] В дополнительном аспекте настоящего изобретения пользовательское оборудование выполнено с возможностью генерации изображений с помощью генеративного искусственного интеллекта (ИИ). [55] В дополнительном аспекте настоящего изобретения нейронная сеть для модерации недопустимых изображений находится в пользовательском оборудовании. [56] В дополнительном аспекте настоящего изобретения нейронная сеть для модерации недопустимых изображений находится вне пользовательского оборудования и осуществляет модерацию недопустимых изображений с помощью облачных вычислений. [57] В дополнительном аспекте настоящего изобретения блок обнаружения областей интереса дополнительно выполнен с возможностью: [58] извлечения из изображения масок явных областей, соответствующих анатомическим частям на изображении и объектам, соответствующим «недопустимому на работе» контенту (NSFW); и [59] извлечения из изображения масок ключевых точек, соответствующих областям суставов на изображении; [60] и в котором блок обнаружения областей интереса выполнен с возможностью определять ROI на основе масок явных областей и масок ключевых точек. [61] В дополнительном аспекте настоящего изобретения блок объединения признаков изображения содержит модифицированный блок перекрестного внимания, который выполнен с возможностью объединения детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков на основе механизма перекрестного внимания. [62] В еще одном аспекте настоящего изобретения обеспечено пользовательское оборудование (UE), содержащее по меньшей мере устройство обработки данных, устройство хранения данных и устройство отображения визуального контента, при этом в устройстве хранения данных сохранены машиноисполняемые коды, которые, при их исполнении устройством обработки данных, предписывают пользовательскому оборудованию осуществлять способ по любому одному из пп. 1-6. [63] В еще одном аспекте настоящего изобретения обеспечен машиночитаемый носитель информации, на котором сохранены машиноисполняемые коды, которые при их исполнении по меньшей мере одним устройством обработки данных пользовательского оборудования (UE) предписывают пользовательскому оборудованию осуществлять способ по любому одному из пп. 1-6. [64] Краткое описание чертежей [65] Конкретные варианты осуществления, реализации и другие подробности раскрытого изобретения проиллюстрированы на чертежах, на которых: [66] Фиг. 1 иллюстрирует пример недопустимого изображения, сгенерированного ИИ и содержащего анатомические искажения, структурные аномалии и биомеханические невозможности. [67] Фиг. 2 иллюстрирует последовательность операций способа модерации изображений, охарактеризованного в настоящем изобретении. [68] Фиг. 3 иллюстрирует блок-схему устройства модерации изображений, охарактеризованного в настоящем изобретении. [69] Фиг. 4 иллюстрирует блок-схему блока извлечения признаков, входящего в состав устройства модерации изображений, охарактеризованного в настоящем изобретении. [70] Фиг. 5 иллюстрирует блок-схему блока извлечения ограничивающих рамок, входящего в состав устройства модерации изображений, охарактеризованного в настоящем изобретении. [71] Фиг. 6 иллюстрирует блок-схему блока извлечения гибридных признаков, входящего в состав устройства модерации изображений, охарактеризованного в настоящем изобретении. [72] Фиг. 7 иллюстрирует блок-схему модифицированного блока перекрестного внимания, входящего в состав устройства модерации изображений, охарактеризованного в настоящем изобретении. [73] Фиг. 8 иллюстрирует упрощенную блок-схему устройства модерации изображений, охарактеризованного в настоящем изобретении и упрощенную блок-схему содержащегося в нем запоминающего устройства, содержащихся в пользовательском оборудовании (UE). [74] Фиг. 9 иллюстрирует служащий в качестве неограничивающего примера вариант экранного изображения приложения «Галерея», на котором результаты модерации отображаются пользователю на экране пользовательского оборудования (UE) в виде предупреждающего сообщения. [75] Подробное описание изобретения [76] Специалист в данной области поймет, что ниже приведено не полное теоретическое описание всех известных технологий, а только та часть такого описания, которая необходима для теоретического обоснования и практической реализации заявленного изобретения. Особый акцент будет сделан на различных модификациях заявленного изобретения, а также на различных реализациях и вариантах осуществления заявленного изобретения. [77] В целом, настоящее изобретение работает следующим образом: сначала система обнаруживает и выделяет области интереса (ROI) в сгенерированном изображении, фокусируясь на областях, где наиболее вероятно появление визуальных артефактов или конфиденциального контента. Последовательно для каждой ROI система создает детализированное векторное представление локальных признаков, одновременно извлекая глобальное семантическое векторное представление признаков из всего изображения. Затем эти два взаимодополняющих набора признаков объединяются с помощью контекстно-адаптивного механизма перекрестного внимания, который выравнивает и интегрирует представление локальных признаков с глобальной информацией о сцене. Полученное объединенное векторное представление признаков на изображении захватывает как тонкие структурные признаки, так и общий семантический контекст, позволяя финальному классификатору надежно определять, является ли изображение допустимым или недопустимым, т.е. содержащим нежелательные артефакты или контент NSFW, осуществляя тем самым модерацию изображений. [78] Классификация изображений на допустимые и недопустимые с использованием фильтров безопасности обеспечивает конкурентное преимущество перед передовыми технологическими функциями, которые появляются в наши дни. Кроме того, чипы NPU могут обрабатывать классификацию с использованием фильтров безопасности, особенно с помощью облачных вычислений. [79] На Фиг. 1 проиллюстрирован пример недопустимого и недопустимого изображения, сгенерированного ИИ и содержащего анатомические искажения, структурные аномалии и биомеханические невозможности человеческого тела. Как можно увидеть на Фиг. 1, изображение двух людей, предположительно гимнастов, содержит многочисленные анатомические искажения, структурные аномалии, нехарактерные для человеческого тела и биомеханические невозможности, такие как различная длина рук, отсутствие некоторых частей тела, либо их неправдоподобное изображение, неестественные позы и т.п. Следствием вышеизложенного является полное несоответствие фигур гимнастов, изображенных на Фиг. 1, анатомии и биомеханике фигуры человека, что создает, особенно при внимательном рассмотрении Фиг. 1, отталкивающее и даже шокирующее для наблюдателя-человека впечатление. Это впечатление делает невозможным использование изображения, сгенерированного ИИ и изображенного на Фиг. 1. для целей реалистичного изображения человеческих тел. Критерий отнесения визуального контента к допустимым или недопустимым задается изначально при обучении ИИ на конкретных примерах изображений, относимых при обучении либо к допустимым, либо к недопустимым. [80] На Фиг. 2 проиллюстрирована последовательность операций способа модерации изображений, охарактеризованного в настоящем изобретении. В целом, способ состоит из трех стадий, выполняющихся для каждой области интереса (ROI): [81] стадии извлечения признаков, [82] стадии объединения признаков, и [83] стадии модерации изображения. [84] При этом на стадии извлечения признаков находят область, содержащую потенциальный недопустимый контент и/или контент NSFW, и извлекают локальные и глобальные признаки. [85] Стадия извлечения признаков состоит из этапов, на которых происходит: [86] 1) Передача изображения в базовую модель, которая представляет собой нейросетевую модель. [87] На этом этапе получают визуальные признаки изображения. [88] 2) Извлечение из изображения масок визуальных признаков, которые могут содержать недопустимый контент и/или контент NSFW. [89] На этом этапе извлекают из изображения маски явных областей, например, определяют области, на которых изображены конечности, в частности руки, или лица, где обычно при генерации изображения возникает недопустимый контент, и/или, например, определяют области, на которых изображены люди, оружие, кровь, которая обычно может содержать которые могут содержать контент NSFW. Следует отметить, что в компьютерном зрении ключевые точки представляют собой отдельные, значимые пространственные местоположения или ориентиры на изображении. Эти точки служат основой для определения структурного устройства, геометрии и точного местоположения конкретных частей объекта или субъекта, а не просто для идентификации всего объекта целиком. Например, оружие или кровь могут быть только явными масками областей, а голова может являться как маской ключевой точки, и маской явной области (именно для того, чтобы избежать повторений, согласно настоящему изобретению производится кластеризация области интереса ROI). [90] Также на этом этапе извлекают из изображения маски ключевых точек, например, определяют области суставов, где обычно при генерации изображения возникает недопустимый контент. [91] 3) Удаление избыточных масок. [92] На этом этапе удаляют избыточные, взаимно перекрывающиеся рамки одного и того же объекта. [93] 4) Объединение пространственно-связанных масок. [94] На этом этапе объединяют разные маски из разных моделей, которые относятся к одной и той же пространственной области. [95] 5) Извлечение глобальных признаков. [96] На этом этапе извлекают из анализируемого изображения соответствующий глобальный контекст изображения, содержащий семантическое векторное представление, представляющее собой векторное представление, которое отражает глобальную концептуальную информацию об изображении, причем оно отражает не конкретные детали, такие как границы объектов на сцене, а глобально описание всей сцены - например, футбольный матч. [97] 6) Извлечение локальных признаков. [98] На этом этапе последовательно извлекают из областей интереса (ROI) объектно-ориентированные векторные представления локальных визуальных признаков, представляющие собой конкретные т.е. локальные детали, в качестве примера, из ранее приведенного примера футбольного матча, например, положение суставов конкретного футболиста, его поза. [99] На стадии объединения признаков происходит объединение локальных и глобальных признаков, оптимизированных для окончательной классификации контента. [100] Стадия объединения признаков состоит из этапа, на котором происходит: [101] 7) Объединение локальных и глобальных признаков. [102] На этом этапе объединяют локализованные признаки ROI с соответствующим глобальным контекстом изображения из этапа 5) для получения объединенного насыщенного векторного представления признаков, оптимизированного для окончательной классификации контента. Объединенное насыщенное векторное представление признаков является объединенным вектором, содержащим локальную и глобальную информацию. В качестве примера можно привести представление футбольного матча, в котором объединенное векторное представление признаков будет представлять собой футбольный матч, где конкретный игрок в конкретной футболке стоит в заданном местоположении и осуществляет конкретные идентифицируемые действия. [103] На стадии модерации изображения происходит проверка насыщенных объединенных признаков на предмет наличия недопустимого контента и/или контента NSFW. [104] Стадия модерации изображения состоит из этапов, на которых происходит: [105] 8) Классификация насыщенных объединенных признаков на предмет наличия недопустимого контента и/или контента NSFW. [106] На этом этапе фильтр модерации изображения анализирует объединенные признаки, которые объединяют позиционную и семантическую информацию для повышения эффективности проверки. При этом если ROI недопустима (например, пороговое значение достоверности > 0,5, независимо от типа ROI), то способ завершается, в противном случае повторяются этапы, начиная с этапа 6). Пороговое значение является статическим для конечного пользователя и не зависит от типа ROI, но его можно регулировать во время обучения и адаптировать в зависимости от конкретных требований сценария использования, делая его более строгим или более терпимым в зависимости от желаемого поведения. [107] 9) Возврат допустимого или недопустимого результата модерации. [108] На этом этапе если ROI признана недопустимой, то происходит возврат недопустимого результата модерации, т.е. изображение в целом классифицируется как недопустимое, и способ на этом досрочно завершается, что позволяет сэкономить вычислительные ресурсы путем отказа от дальнейшего анализа изображения, тогда как если ROI признана допустимой, то происходит проверка того, все ли остальные ROI на изображении обработаны. В случае отрицательного ответа, происходит извлечение локальных признаков для следующей ROI, и повторяются этапы, начиная с этапа 6), тогда как в случае положительного ответа, когда все остальные ROI на изображении обработаны, происходит возврат допустимого результата модерации, т.е. изображение в целом классифицируется как допустимое для отображения, и способ завершается. [109] На Фиг. 3 проиллюстрирована блок-схема устройства модерации изображений, охарактеризованного в настоящем изобретении. В целом устройство модерации изображений содержит блок извлечения признаков, блок объединения признаков и классификатор. В свою очередь, блок извлечения признаков содержит блок извлечения ограничивающих рамок и блок извлечения гибридных признаков. При этом, блок извлечения ограничивающих рамок содержит базовую модель, служащую для предсказания общих признаков изображения, головной блок явных областей, служащий для обнаружения ограничивающих рамок вокруг частей тела и объектов, явно связанных с контентом NSFW, головной блок ключевых точек, служащий для обнаружения ключевых точек скелета и на их основе генерации соответствующих рамок, и блок адаптивного объединения ограничивающих рамок, состоящий из блока подавления немаксимумов, служащего для генерирования выходных масок подавления немаксимумов, и блока пространственной кластеризации, служащего для получения обрезанных областей интереса (ROI). Головной блок явных областей реализует подход к обнаружению объектов на основе семантики и/или их внешнего вида. Он функционирует как обычный детектор объектов, который напрямую строит ограничивающие рамки вокруг предварительно определенных категорий на основе визуальных признаков (текстура, цвет, форма, контекст). Головной блок ключевых точек реализует подход к обнаружению, основанный на структурном и/или геометрическом анализе. Он обнаруживает ключевые точки скелета (суставы, такие как плечи, локти, бедра, колени и т.д.), а затем вычисляет ограничивающие рамки на основе пространственной конфигурации этих ключевых точек. Блок извлечения гибридных признаков содержит блок извлечения глобальных семантических признаков, служащий для получения глобального семантического векторного представления изображения, и блок извлечения локальных детализированных признаков, служащий для получения локальных объектно-ориентированных визуальных признаков. В одном из вариантов осуществления настоящего изобретения блок объединения признаков, предназначенный для получения объединенного векторного представления признаков, содержит модифицированный блок перекрестного внимания. Классификатор определяет, является ли изображение допустимым, либо содержит недопустимые нежелательные артефакты и/или контент NSFW. [110] Согласно настоящему изобретению предложен способ обнаружения на изображениях контента NSFW и/или недопустимого контента. [111] Предложенный способ состоит из этапов, на которых: [112] 1. Передают входное изображение, например, представленное на Фиг. 1, как показано на Фиг. 3, в блок извлечения признаков, а именно - в базовую модель. [113] 2. Передают входное изображение в блок извлечения ограничивающих рамок, входящий в состав блока извлечения признаков, для получения в результате его действия, обрезанных областей интереса (ROI), подаваемых впоследствии в блок извлечения гибридных признаков (см. этап 8 ниже). [114] 3. Передают предсказания базовой модели следующим головным блокам предсказания: головному блоку явных областей и головному блоку ключевых точек для получения масок явных областей и масок ключевых точек соответственно. [115] 4. Передают маски явных областей и маски ключевых точек в блок адаптивного объединения ограничивающих рамок, в котором, с целью уменьшения потребляемых вычислительных ресурсов на анализ дублирующих друг друга областей интереса, происходит адаптивное объединение ограничивающих рамок. [116] 5. Осуществляют подавление немаксимумов (Non-Maximum Suppression, NMS) в блоке подавления немаксимумов, содержащемся в блоке адаптивного объединения ограничивающих рамок, для чего в блоке подавления немаксимумов генерируют выходные маски подавления немаксимумов. Следует отметить, что метод подавления немаксимумов принимает на вход маски и выдает на выходе выходные маски подавления немаксимумов, удаляя из входных масок те, у которых высокое значение коэффициента пересечения по объединению (Intersection-over-Union или IoU). Коэффициент IoU представляет собой меру, которая в общем вычисляет качество предсказания именно целевого объекта, которым может являться, например, человек или его часть тела на изображении. Коэффициент IoU представляет собой метрику, используемую в компьютерном зрении для оценки точности алгоритмов детектирования объектов и сегментации изображений, которая измеряет степень перекрытия между предсказанной областью (bounding box или ограничивающая маска) и эталонной областью (ground truth) и IoU рассчитывается как отношение площади наложения на изображении двух областей друг на друга к площади объединения этих областей. Таким образом, метод NMS используется для того, чтобы отобрать минимально достаточный набор масок на изображении, отфильтровывая избыточные маски, имеющие наиболее сильное пересечение по коэффициенту IoU с другими, обладающими более высоким рейтингом. Он применяется для каждого класса объектов на изображении по отдельности. В результате выполнения этого этапа, передают выходные маски подавления немаксимумов, сгенерированные в блоке подавления немаксимумов, в блок пространственной кластеризации для получения обрезанных областей интереса (ROI). [117] 6. Передают входное изображение и обрезанные области интереса в блок извлечения гибридных признаков, состоящий из блока извлечения глобальных семантических признаков и блока извлечения локальных детализированных признаков, для получения локальных объектно-ориентированных визуальных признаков и глобального семантического векторного представления изображения, представляющего собой векторное представление, которое отражает глобальную концептуальную информацию об изображении, причем оно отражает не конкретные детали, такие как границы объектов на сцене, а глобально описание всей сцены - например, футбольный матч. [118] 7. Передают входное изображение в блок извлечения глобальных семантических признаков для получения глобального семантического векторного представления изображения. [119] 8. Последовательно передают обрезанные области интереса в блок извлечения локальных детализированных признаков для получения векторного представления локальных объектно-ориентированных визуальных признаков. [120] 9. Передают векторные представления как локальных, так и глобальных признаков в блок объединения признаков для получения объединенного векторного представления признаков, которое представляет собой объединенный вектор, содержащий как локальную, так и глобальную информацию. В ранее упомянутом примере с футбольным матчем объединенное векторное представление признаков будет представлять собой футбольный матч, где конкретный игрок в конкретной футболке стоит в заданном местоположении и осуществляет конкретные идентифицируемые действия. [121] 10. Добавляют вектор, полученный из локальных признаков областей интереса (ROI), опционально, слоя перекрестного внимания (остаточное соединение), и выходные данные слоя перекрестного внимания (локальные признаки, насыщенные контекстом), чтобы сохранить локальную информацию. [122] 11. Объединяют предыдущие выходные данные и глобальные признаки, чтобы получить объединенное векторное представление признаков. [123] 12. Передают объединенное векторное представление признаков классификатору, например, пространственному выравнивающему слою на многослойном персептроне (MLP), чтобы получить окончательное предсказание на предмет того, относится ли изображение к допустимым, или к недопустимым. [124] 13. Если изображение признано недопустимым, способ завершается, в противном случае повторяются вышеозначенные этапы с 8 по 13 для следующей области интереса (ROI). [125] Рассмотрим блоки, входящие в состав устройства модерации изображений, охарактеризованного в настоящем изобретении, более подробно. [126] На Фиг. 4 проиллюстрирована блок-схема блока извлечения признаков, входящего в состав устройства модерации изображений, охарактеризованного в настоящем изобретении, причем цифрами на Фиг. 4 отмечены этапы, перечисленные выше при описании Фиг. 3. В целом блок извлечения признаков содержит что блок извлечения ограничивающих рамок и блок извлечения гибридных признаков. [127] На Фиг. 4 можно увидеть, что блок извлечения ограничивающих рамок принимает входное изображение, например, представленное на Фиг. 1, и выдает обрезанные области интереса (ROI), выделенные рамками на изображении. [128] Блок извлечения гибридных признаков принимает обрезанные области интереса и выдает, после обработки во входящем в его состав блоке извлечения локальных детализированных признаков, локальное объектно-ориентированное векторное представление визуальных признаков в блок объединения признаков. Кроме того, блок извлечения гибридных признаков принимает входное изображение и после его обработки во входящем в его состав блоке извлечения глобальных семантических признаков, глобальное семантическое векторное представление изображения в блок объединения признаков. [129] На Фиг. 5 проиллюстрирована блок-схема блока извлечения ограничивающих рамок, входящего в состав устройства модерации изображений, охарактеризованного в настоящем изобретении, причем цифрами на Фиг. 5 отмечены этапы, перечисленные выше при описании Фиг. 3. [130] Базовая модель предсказывает общие признаки изображения, используемые обоими головными блоками - головным блоком явных областей и головным блоком ключевых точек. [131] Головной блок явных областей обнаруживает ограничивающие рамки вокруг частей тела (голова, лицо, туловище, суставы, руки, ноги и т.д.) и объектов, явно связанных с контентом NSFW (гениталии, оружие, кровь и т.д.). [132] Головной блок ключевых точек обнаруживает ключевые точки скелета и на их основе генерирует соответствующие рамки. [133] Блок подавления немаксимумов (NMS) удаляет перекрывающиеся рамки одного и того же объекта; например, можно использовать порог 0,5 по мере IoU метода подавления немаксимумов (NMS), который эффективно подавляет дублирующиеся рамки, соответствующие одному и тому же объекту, оставаясь при этом достаточно щадящим, чтобы сохранять рамки для близко сгруппированных, но различных объектов. Этот порог можно точно настроить для достижения конкретной производительности в конкретных сценариях использования. [134] Блок пространственной кластеризации, подобный DBSCAN (Density-Based Spatial Clustering of Applications with Noise) представляющий собой алгоритм кластеризации на основе плотности, который группирует близкорасположенные точки и отделяет шум (выбросы), объединяет перекрывающиеся и/или близкорасположенные маски. Для того, чтобы определить то, какие точки считать близкорасположенными, введем показатель ε, который характеризует максимальное расстояние между двумя точками данных на изображении, при котором они все еще считаются близкорасположенными точками. Можно представить это как радиус окружности, проводимой вокруг точки для поиска других близкорасположенными точек. [135] Влияние показателя ε следующее: [136] - Низкое значение показателя ε приводит к тому, что многие точки помечаются как шум, поскольку у них недостаточно близкорасположенных точек поблизости. [137] - Высокое значение показателя ε вызывает объединение отдельных мелких кластеров точек в один крупный кластер. [138] Также для того, чтобы определить то, какие точки считать близкорасположенными, введем показатель min_samples, который характеризует минимальное количество точек данных, которое должно находиться в радиусе eps, чтобы точка была классифицирована как «центральная» (core point). Этот параметр определяет порог плотности, необходимый для формирования кластера точек. [139] Влияние показателя min_samples следующее: [140] - Низкое значение показателя min_samples позволяет считать кластерами точек даже разреженные по точкам области, что может привести к увеличению количества кластеров точек и к уменьшению числа точек, помеченных как шум. [141] - Высокое значение показателя min_samples требует очень высокой плотности по точкам области для формирования кластера; это полезно для фильтрации шума, но может привести к потере небольших валидных кластеров. [142] Например, для целей настоящего изобретения в блоке пространственной кластеризации можно использовать значения ε=0,1, min_samples=1, что гарантирует сохранение каждой отдельной области интереса (либо объединенной, либо отдельной), обеспечивая, что изолированные, но корректные обнаружения не будут отброшены, а нестабильные обнаружения будут по-прежнему фиксироваться и обрабатываться. Эти гиперпараметры можно точно настроить для достижения заданной производительности в конкретных сценариях использования. [143] В результате работы блока извлечения ограничивающих рамок получаются объединенные области интереса (ROI). [144] На Фиг. 6 проиллюстрирована блок-схема блока извлечения гибридных признаков, входящего в состав устройства модерации изображений, охарактеризованного в настоящем изобретении, причем цифрами на Фиг. 6 отмечены этапы, перечисленные выше при описании Фиг. 3. [145] Входящий в состав блока извлечения гибридных признаков блок извлечения локальных детализированных признаков, такой как, например, DINOv2, берет обрезанные области интереса (ROI) и последовательно кодирует каждую область для генерации детализированных визуальных признаков (например, текстура кожи, детали одежды и т.д.), причем, в качестве примера, размерность вектора может составлять 1024. [146] Входящий в состав блока извлечения гибридных признаков блок извлечения глобальных семантических признаков, такой как, например, CLIP, берет полное изображение и генерирует глобальное семантическое векторное представление (например, контекст сцены, художественный стиль и т. д.), причем, в качестве примера, размерность вектора может составлять 768. [147] Упомянутые выше блоки извлечения признаков не ограничены определенной архитектурой, например такой, какая была описана выше, и эта архитектура может быть основана на сверточных нейронных сетях (CNN) или на трансформерах, которые представляют собой тип искусственных нейронных сетей, которые используют механизм самосвязываемости для обработки последовательных данных и могут быть дообучены для различных задач. Такая гибкость позволяет использовать широкий спектр моделей векторного представления в зависимости от требований конкретного случая (например, требований по производительности, по ограничению ресурсов). [148] Различные базовые модели для блоков извлечения признаков требуют: [149] выравнивания размерности признаков: различные базовые модели выдают векторные представления различной размерности, поэтому для обеспечения их взаимной совместимости в дальнейшем могут быть добавлены соответствующие проекционные (масштабирующие) слои; [150] корректировки входных данных перед обработкой: каждое семейство моделей имеет предпочтительное разрешение изображения и схему нормализации. Конвейер обработки должен соответствующим образом адаптировать этап преобразования входных данных. [151] компромиссов в производительности: легковесные сверточные нейронные сети могут уменьшить задержку и использование памяти, но могут обеспечить меньшую семантическую насыщенность, тогда как большие ViT-модели (ViT сокр. от англ. Vision Transformer - модель с архитектурой Transformer, предназначенная для работы с изображениями) обеспечивают более надежные глобальные признаки, но требуют больших вычислительных затрат. [152] На Фиг. 7 проиллюстрирована блок-схема модифицированного блока перекрестного внимания, входящего в состав блока объединения признаков изображения, причем цифрами на Фиг. 7 отмечены этапы, перечисленные выше при описании Фиг. 3. [153] Изначально механизм перекрестного внимания был предложен в работе «Attention Is All You Need», опубликованной 12.06.2017 авторами Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin, и доступной по адресу в сети Интернет URL: https://arxiv.org/abs/1706.03762 для задачи перевода, где декодер, генерирующий выходное предложение, напрямую получает информацию из энкодера, кодирующего входное предложение. [154] Как можно видеть на Фиг. 7, и локальные, и глобальные признаки проецируются путем передачи их в пространственный выравнивающий слой (MLP) для выравнивания признаков из разных моделей в общую систему координат. Эти MLP могут представлять собой, например, линейную проекцию или линейные слои с функцией активации между ними (например, функция активации ReLU), причем, в качестве примера, размерность вектора может составлять 768 после проекции. [155] Модель слоя перекрестного внимания, будучи слоем нейронной сети, взаимодействует между локальными областями и глобальным контекстом изображения, где Query (Запрос) (обозначенный на Фиг. 7 как Q) представляет проецированные локальные признаки ROI, а Key/Value (Ключ/Значение) (обозначенные на Фиг. 7 как K’ и V) представляют проецированные глобальные признаки контекста, и обеспечивают контекстно-ориентированное объединенное векторное представление (контекст). Говоря в общем, когда запросы Queries, (Q) формируются из одной последовательности, а ключи Keys, (K) и значения Values, (V) - из другой, тогда и возникает механизм, известный как механизм перекрестного внимания (cross-attention), используемый в модели слоя перекрестного внимания. [156] Модель слоя перекрестного внимания измеряет сходство между Q (проецированными локальными признаками) и K (проецированными глобальными признаками), затем смешивает V (проецированный глобальный контекст) с локальными признаками Q (оценками внимания), чтобы получить контекст. [157] Затем Query (Запрос), т.е. проецированные локальные признаки ROI, добавляется к контексту через остаточное соединение для получения выходных данных (насыщенных контекстом локальных признаков), что позволяет сохранить локальную информацию, которая может быть критически важной, и стабилизировать обучение. При этом остаточное соединение (также называемое пропускным) представляет собой метод в глубоком обучении, при котором входной сигнал x слоя сети напрямую добавляется к его выходу F(x), образуя сумму F(x) + x. Такой «короткий путь» решает проблему затухающего градиента, что позволяет обучать более глубокие нейронные сети проще и эффективнее. [158] Затем выходные данные (т.е. локальные признаки, насыщенные контекстом) объединяются с глобальными признаками для получения объединенного векторного представления признаков, которое будет передано классификатору и сохранит полный семантический контекст (классификатор будет видеть как признаки, уточненные механизмом внимания, так и исходную глобальную семантику изображения), причем, в качестве примера, размерность вектора для объединенного векторного представления признаков может составлять 1536. [159] На Фиг. 8 проиллюстрированы упрощенная блок-схема устройства модерации изображений, охарактеризованного в настоящем изобретении и упрощенная блок-схема устройства хранения данных, содержащихся в пользовательском оборудовании (UE). В рамках настоящего описания под пользовательским оборудованием понимается любое вычислительное устройство, содержащее по меньшей мере устройства обработки данных, устройства хранения данных и устройства отображения визуального контента. [160] Пользовательское оборудование (UE) может представлять собой электронное устройство пользователя, которое выполнено с возможностью генерации визуального контента при помощи Искусственного Интеллекта и/или с возможностью отображения визуального контента. Таким образом, пользовательским оборудованием (UE) может являться, но без ограничения перечисленным: смартфон, планшет, настольный персональный компьютер, портативный персональный компьютер (ноутбук или нетбук) умные часы, мини-ПК, умный телевизор, устройство потокового мультимедиа, устанавливаемое на транспортное средство оборудование, в том числе развлекательная система, или любое другое устройство, способное выполнять компьютерный анализ изображений. Пользовательское оборудование может именоваться иначе, например, как пользовательский терминал, терминал, смартфон, мобильное устройство, устройство отображения и т.д. [161] На Фиг. 8 схематично проиллюстрирована блок-схема одного из вариантов осуществления устройства модерации изображений и операции, выполняемые отдельными блоками, входящими в его состав, а также содержимое устройства хранения данных, содержащихся в пользовательском оборудовании (UE). Как видно на Фиг. 8, в одном из вариантов осуществления упомянутого устройства модерации изображений, оно содержит блок извлечения признаков, причем входными данными для него является входное изображение, а на выходе этого блока получают локальное объектно-ориентированное векторное представление визуальных признаков и глобальное семантическое векторное представление изображения. Также упомянутое устройство модерации изображений содержит блок объединения признаков, причем входными данными для этого блока являются упомянутые локальное объектно-ориентированное векторное представление визуальных признаков и глобальное семантическое векторное представление изображения, а на выходе этого блока получают объединенные признаки. Также упомянутое устройство модерации изображений содержит классификатор, который определяет, является ли изображение допустимым, либо содержит нежелательные артефакты и/или контент NSFW, причем входными данными для него являются упомянутые объединенные признаки, а на выходе этого блока получают метку предсказания того, является ли анализируемое изображение допустимым или недопустимым. Упомянутое устройство модерации изображений может быть выполнено на основе устройства обработки данных пользовательского оборудования (UE) и являться его составной частью. [162] Как можно видеть на Фиг. 8, устройство хранения данных, содержащееся в пользовательском оборудовании (UE), хранит обрезанные области интереса (ROI), локальные признаки, глобальные признаки и объединенные признаки. [163] Различные иллюстративные блоки и модули, описанные в связи с раскрытием сущности изобретения в данном документе, могут реализовываться или выполняться с помощью устройства обработки данных пользовательского оборудования (UE), которое может представлять собой, например, процессор общего назначения, процессор цифровых сигналов (DSP), специализированную интегральную схему (ASIC), программируемую пользователем вентильную матрицу (FPGA) или другое программируемое логическое устройство (PLD), дискретный логический элемент или транзисторную логику, дискретные аппаратные компоненты либо любую комбинацию вышеозначенного, предназначенную для того, чтобы выполнять описанные в данном документе функции. Устройство обработки данных может представлять собой микропроцессор, но в альтернативном варианте, устройство обработки данных может представлять собой любой традиционный процессор, контроллер, микроконтроллер или конечный автомат. Устройство обработки данных также может реализовываться как комбинация вычислительных устройств (к примеру, комбинация DSP и микропроцессора, несколько микропроцессоров, один или более микропроцессоров вместе с DSP-ядром либо любая другая подобная конфигурация). [164] Устройство хранения данных пользовательского оборудования (UE) может быть энергозависимым или энергонезависимым, или может включать в себя как энергозависимую, так и энергонезависимую память. Энергонезависимой памятью может быть постоянное запоминающее устройство (ROM), программируемое постоянное запоминающее устройство (PROM), стираемое программируемое постоянное запоминающее устройство (EPROM), электронно-стираемое программируемое постоянное запоминающее устройство (EEPROM) или флэш-память. Энергозависимая память может быть оперативной памятью (RAM). Также память в вариантах осуществления настоящего раскрытия может быть статической памятью с произвольным доступом (SRAM), динамической памятью с произвольным доступом (DRAM), синхронной динамической памятью с произвольным доступом (синхронная DRAM, SDRAM), синхронной динамической памятью с произвольной выборкой с двойной скоростью передачи данных (SDRAM с двойной скоростью передачи данных, DDR SDRAM), синхронной динамической памятью с произвольной выборкой с повышенной скоростью (улучшенная SDRAM, ESDRAM), DRAM с синхронной линией связи (SLDRAM) и оперативной памятью с шиной прямого доступа (DR RAM) и т.д. То есть в вариантах осуществления настоящего раскрытия устройство хранения данных включает в себя, но не ограничиваясь перечисленным, эти и любые другие подходящие типы запоминающих устройств. [165] Таким образом, упомянутое пользовательское оборудование (UE), может содержать в качестве устройств обработки данных по меньшей мере один центральный процессор (CPU) для обработки информации, генерируемой обученной нейронной сетью, по меньшей мере один графический процессор (GPU) для ускорения вычислений, производимых центральным процессором (CPU), по меньшей мере одно устройство отображения визуального контента, и устройство хранения данных, хранящее модель и данные обученной нейронной сети, а также инструкции, которые при их исполнении по меньшей мере одним процессором побуждают по меньшей мере один из центрального процессора (CPU) и графического процессора (GPU) выполнять охарактеризованный в данном документе способ модерации изображений. [166] На Фиг. 9 проиллюстрирован служащий в качестве неограничивающего примера вариант экранного изображения приложения «Галерея», на котором результаты модерации отображаются пользователю на экране пользовательского оборудования (UE) в виде предупреждающего сообщения. [167] Как можно видеть на Фиг. 9, при попытке пользователя сгенерировать контент, который был изначально задан фильтру как недопустимый и/или контент NSFW, в приложении «Галерея» пользовательского оборудования (UE) результат модерации может отображаться пользователю в виде предупреждающего сообщения, говорящего о том, что данный контент не может быть сгенерирован на данном устройстве. При этом, как можно видеть на Фиг. 9, экранное изображение приложения «Галерея» пользовательского оборудования в качестве неограничивающего примера может содержать индикацию степени модерации контента, например то, включена ли она на устройстве, либо отключена, или работает в режиме повышенной чувствительности, который может быть задействован, например, в случае, когда пользовательское оборудование используется ребенком, что требует более жестких требований по модерации визуального контента. В качестве примера экранное изображение приложения «Галерея» также может содержать экранную кнопку «Сообщение об ошибке», которая позволяет пользователю сообщить разработчикам о том, что по его мнению, система модерации контента выдала неправильный результат. При этом на экранном изображении приложения «Галерея», в качестве неограничивающего примера, само сгенерированное либо просматриваемое изображение может быть затемнено, как показано на Фиг. 9, причем степени затемнения могут выбираться различными, либо изображение может быть размыто, причем степени размытия также могут выбираться различными, либо сгенерированное или просматриваемое изображение может вообще не отображаться пользователю. [168] Резюмируя вышесказанное, традиционные известные из уровня техники решения характеризуются следующими подходами: [169] 1. Классификация на уровне регионов: Обнаруживает предварительно определенные регионы (например, лица, части тела) и оценивает их независимо друг от друга. [170] 2. Глобальная классификация: Обрабатывает все изображение для получения объединенного глобального предсказания. [171] 3. Агрегация на уровне принятия решения: Отдельная сеть агрегации объединяет результаты классификации регионов и глобального классификатора. Если какой-либо из них предсказывает недопустимое содержимое, система помечает изображение как недопустимое. [172] Однако, данные подходы содержат в себе ограничение, состоящее в том, что объединение происходит только на этапе принятия окончательного решения, а не на уровне анализа признаков, что приводит к поверхностному, неглубокому анализу изображения, и, как следствие, к непоследовательности при оценках допустимости изображений. [173] В отличие от традиционных известных из уровня техники решений, настоящее изобретение характеризуется следующими подходами: [174] 1. Обнаружение и извлечение областей интереса (ROI): Идентификация и выделение областей интереса, включая лица, конечности, объекты, представляющие особый интерес, и зон изображений, подверженных артефактам генерации с помощью ИИ, или содержащих чувствительную информацию. [175] 2. Извлечение глобального семантического векторного представления, описывающего контекст всей сцены. [176] 3. Последовательное извлечение детализированного локального векторного представления из каждой области интереса, захватывающего подробную структуру. [177] 4. Раннее объединение на уровне признаков, при котором происходит интеграция текущих локальных и глобальных признаков с использованием контекстно-адаптивного механизма перекрестного внимания, создающего объединенное векторное представление признаков с более насыщенным семантическим и структурным пониманием для соответствующей области интереса. [178] 5. Объединенная классификация допустимости изображения, характеризующаяся применением классификатора к текущему объединенному векторному представлению признаков для точного обнаружения как контента NSFW, так и нежелательных артефактов генеративной модели ИИ. Если текущее объединенное векторное представление признаков допустимо, производят повторение вышеприведенных этапов 3-5 для оставшихся областей интереса на изображении. Таким образом, пользователю на экране пользовательского оборудования отображаются только изображения, прошедшие проверку на допустимость во всех без исключения областях интереса на изображении. [179] Согласно варианту осуществления настоящего изобретения, описанный выше способ модерации недопустимых изображений может выполняться посредством пользовательского оборудования, содержащего по меньшей мере устройство обработки данных, устройство хранения данных и устройство отображения визуального контента, при этом в устройстве хранения данных сохранены машиноисполняемые коды, которые, при их исполнении устройством обработки данных, предписывают пользовательскому оборудованию осуществлять способ модерации недопустимых изображений, описанный выше. [180] Согласно еще одному варианту осуществления охарактеризован машиночитаемый носитель информации, на котором сохранены машиноисполняемые коды, которые при их исполнении по меньшей мере одним устройством обработки данных пользовательского оборудования (UE), предписывают пользовательскому оборудованию выполнять способ модерации недопустимых изображений, описанный выше. [181] Способ, раскрытый здесь, содержит один или несколько этапов или действий для достижения описанного выше результата. Этапы и/или действия способа могут заменять друг друга, не выходя за пределы объема формулы изобретения. Другими словами, если не определен конкретный порядок этапов или действий, порядок и/или использование конкретных этапов и/или действий может изменяться, не выходя за пределы объема формулы изобретения. [182] Машиночитаемые носители включают в себя некратковременные компьютерно-читаемые носители хранения данных. Некратковременный компьютерно-читаемый носитель хранения данных может представлять собой любой доступный носитель, к которому можно осуществлять доступ посредством компьютера общего назначения или специального назначения. В качестве примера, а не ограничения, некратковременные компьютерно-читаемые носители могут содержать оперативное запоминающее устройство (RAM), постоянное запоминающее устройство (ROM), электрически стираемое программируемое постоянное запоминающее устройство (EEPROM), флэш-память, ROM на компакт-дисках (CD) или другое устройство хранения данных на оптических дисках, устройство хранения данных на магнитных дисках или другие магнитные устройства хранения, либо любой другой некратковременный компьютерно-читаемый носитель, который может использоваться для того, чтобы переносить или сохранять требуемое средство программного кода в форме инструкций или структур данных, и к которому можно осуществлять доступ посредством компьютера общего назначения или специального назначения, либо процессора общего назначения или специального назначения. [183] Таким образом, основным преимуществом настоящего изобретения над решениями, известными из уровня техники, является то, что объединение происходит на уровне векторного представления, а не на уровне принятия решений, что позволяет модели совместно анализировать локальные детализированные признаки в контексте всей сцены, тем самым значительно повышая надежность и степень достоверности способа модерации изображений. [184] Вкратце вклад настоящего изобретения в уровень техники можно описать следующим образом: [185] Благодаря настоящему изобретению обеспечено универсальное решение для обеспечения допустимости просматриваемых изображений, представляющее собой сдвиг парадигмы от решений по обеспечению допустимости просматриваемых изображений, специфичных для конкретных генеративных моделей, к единой системе модерации контента, независимой от конкретной генеративной модели. Абстрагируясь от характеристик, специфичных для генеративных моделей, и фокусируясь на универсальных метриках визуальной целостности изображения, способ и устройство модерации согласно настоящему изобретению обеспечивает беспрецедентную возможность функционирования с полной кроссплатформенной совместимостью. Это устраняет необходимость в непрерывном цикле переобучения, требуемом в решениях предшествующего уровня техники при появлении новых генеративных моделей. [186] Благодаря настоящему изобретению обеспечен блок многомодальной интеграции признаков, использующий двунаправленное объединение локальных и глобальных признаков посредством адаптивных механизмов внимания, обеспечивающий непрерывную перекрестную проверку между объектно-ориентированным анатомическим анализом изображения и семантическим пониманием на уровне сцены, тем самым преодолевая ограничения предшествующих решений, связанных с изолированной обработкой признаков, которая приводит либо к обнаружению объектов без учета контекста, либо к классификации сцен без учета деталей. [187] Несмотря на то, что примерные варианты осуществления были подробно описаны и показаны на сопроводительных чертежах, следует понимать, что такие варианты осуществления являются лишь иллюстративными и не предназначены для того, чтобы ограничивать более широкое изобретение, и что данное изобретение не должно ограничиваться конкретными показанными и описанными компоновками и конструкциями, поскольку различные другие модификации могут быть очевидны специалистам в соответствующей области. [188] Признаки, упомянутые в различных зависимых пунктах формулы, а также варианты осуществления, раскрытые в различных частях описания, могут быть скомбинированы с достижением положительных эффектов, даже если возможность такого комбинирования не раскрыта явно в описании изобретения. [189] Хотя изобретение описано в связи с некоторыми иллюстративными вариантами осуществления, следует понимать, что сущность изобретения не ограничивается этими конкретными вариантами осуществления. Напротив, предполагается, что сущность изобретения включает в себя все альтернативы, коррекции и эквиваленты, которые могут быть включены в сущность и объем формулы изобретения.

Формула 1. Способ модерации недопустимых изображений на пользовательском оборудовании, выполненном с возможностью отображения визуального контента, содержащий этапы, на которых осуществляют: получение, в нейронной сети для модерации недопустимых изображений, выдающей результаты своей работы в пользовательское оборудование и обеспечивающей модерацию изображений, входного изображения, подлежащего отображению на пользовательском оборудовании; обнаружение, с помощью блока обнаружения областей интереса, на полученном изображении одной или более областей интереса (ROI), соответствующих областям, связанным с нежелательными визуальными артефактами и/или недопустимым контентом; извлечение, с помощью блока извлечения локальных признаков, детализированного векторного представления локальных признаков из каждой области интереса; извлечение, с помощью блока извлечения глобальных признаков, глобального семантического векторного представления признаков, представляющего общий контекст изображения; объединение, с помощью блока объединения признаков изображения, детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков, для получения объединенного, насыщенного контекстом векторного представления признаков изображения; и классификацию, с помощью блока классификации, объединенного насыщенного контекстом векторного представления признаков изображения, по результатам которой осуществляют модерацию входного изображения, подлежащего отображению на пользовательском оборудовании, как допустимого или недопустимого изображения. 2. Способ по п. 1, в котором пользовательское оборудование выполнено с возможностью генерации изображений с помощью генеративного искусственного интеллекта (ИИ). 3. Способ по любому из пп. 1, 2, в котором нейронная сеть для модерации недопустимых изображений находится в пользовательском оборудовании. 4. Способ по любому из пп. 1, 2, в котором нейронная сеть для модерации недопустимых изображений находится вне пользовательского оборудования и осуществляет модерацию недопустимых изображений с помощью облачных вычислений. 5. Способ по любому из пп. 1-4, в котором обнаружение одной или более областей интереса (ROI) на полученном изображении дополнительно содержит: извлечение из изображения масок явных областей, соответствующих анатомическим частям на изображении и объектам, соответствующим «недопустимому на работе» контенту (NSFW); и извлечение из изображения масок ключевых точек, соответствующих областям суставов на изображении; и в котором ROI определяются на основе масок явных областей и масок ключевых точек. 6. Способ по любому из пп. 1-4, в котором объединение детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков осуществляется с помощью модифицированного блока перекрестного внимания на основе механизма перекрестного внимания. 7. Устройство для модерации недопустимых изображений на пользовательском оборудовании, выполненном с возможностью отображения визуального контента, содержащее: нейронную сеть для модерации недопустимых изображений, получающую входное изображение, подлежащее отображению на пользовательском оборудовании, выдающую результаты своей работы в пользовательское оборудование и обеспечивающую модерацию изображений; блок обнаружения областей интереса для обнаружения на полученном изображении одной или более областей интереса (ROI), соответствующих областям, связанным с нежелательными визуальными артефактами и/или недопустимым контентом; блок извлечения локальных признаков для извлечения детализированного векторного представления локальных признаков из каждой области интереса; блок извлечения глобальных признаков для извлечения глобального семантического векторного представления признаков, представляющего общий контекст изображения; блок объединения признаков изображения для объединения детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков, для получения объединенного, насыщенного контекстом векторного представления признаков изображения; блок классификации для классификации объединенного насыщенного контекстом векторного представления признаков изображения, по результатам которой осуществляют модерацию входного изображения, подлежащего отображению на пользовательском оборудовании, как допустимого или недопустимого изображения. 8. Устройство по п. 7, в котором пользовательское оборудование выполнено с возможностью генерации изображений с помощью генеративного искусственного интеллекта (ИИ). 9. Устройство по любому из пп. 7, 8, в котором нейронная сеть для модерации недопустимых изображений находится в пользовательском оборудовании. 10. Устройство по любому из пп. 7, 8, в котором нейронная сеть для модерации недопустимых изображений находится вне пользовательского оборудования и осуществляет модерацию недопустимых изображений с помощью облачных вычислений. 11. Устройство по любому из пп. 7-10, в котором блок обнаружения областей интереса дополнительно выполнен с возможностью: извлечения из изображения масок явных областей, соответствующих анатомическим частям на изображении и объектам, соответствующим «недопустимому на работе» контенту (NSFW); и извлечения из изображения масок ключевых точек, соответствующих областям суставов на изображении; и в котором блок обнаружения областей интереса выполнен с возможностью определять ROI на основе масок явных областей и масок ключевых точек. 12. Устройство по любому из пп. 7-10, в котором блок объединения признаков изображения содержит модифицированный блок перекрестного внимания, который выполнен с возможностью объединения детализированного векторного представления локальных признаков и глобального семантического векторного представления признаков на основе механизма перекрестного внимания. 13. Пользовательское оборудование (UE), содержащее по меньшей мере устройство обработки данных, устройство хранения данных и устройство отображения визуального контента, при этом в устройстве хранения данных сохранены машиноисполняемые коды, которые, при их исполнении устройством обработки данных, предписывают пользовательскому оборудованию осуществлять способ по любому одному из пп. 1-6. 14. Машиночитаемый носитель информации, на котором сохранены машиноисполняемые коды, которые при их исполнении по меньшей мере одним устройством обработки данных пользовательского оборудования (UE) предписывают пользовательскому оборудованию осуществлять способ по любому одному из пп. 1-6.