Facebook ще открива обидите с изкуствен интелект

Facebook разработва софтуерен инструмент за автоматично откриване в преките видео излъчвания на съдържание, което нарушава правилата за използване на социалната мрежа, от рода на обиди, голота, насилие и др.

Новата функционалност вече се тества в услугата Facebook Live, съобщи Ройтерс, позовавайки се на директора по приложно машинно обучение в мрежата Йоакин Кандела.

Вместо да ангажира хора, които разглеждат жалби от потребителите, Facebook ще въведе система с изкуствен интелект, която самостоятелно открива неприемливите материали.

По-рано тази година се разбра, че Facebook разработва технология за търсене на екстремистко съдържания – например снимки и видео с жестокости. Но за автоматично намиране на подобно съдържание в преките излъчвания, са необходими много повече усилия и именно това е задачата на новия софтуер.

Проблемът с прякото излъчване във Facebook се изостри, след като в предаване на живо чикагски полицай застреля невинния Антонио Пъркинс. Записът не беше изтрит от социалната мрежа, а единствено отбелязан с предупредително съобщение, че видеото е пример за това какви могат да бъдат реалните последствия от насилието.

В същото време Facebook заяви, че ще премахва от мрежата видеоклипове, които правят сензация от насилието. Но към момента има два сериозни проблема при намирането на обидно съдържание в преките видео излъчвания, по думите на Кандела.

Алгоритъмът за компютърно зрение трябва да бъде бърз и това е нещо, което може да се постигне, смята Кандела. Освен това е много важно да се определят приоритетите така, че хората, които разбират правилата и политиката на Facebook, да се отървават от неприемливото съдържание в социалната мрежа.