OpenAI optimise le filtre de contenu piloté par l’IA

OpenAI logo

OpenAI a renouvelé et amélioré son filtre de contenu. Cet outil, qui recherche les contenus potentiellement dangereux, est désormais gratuit pour tous les utilisateurs.

Avec Moderation endpoint, la plate-forme de développement OpenAI présente une version renouvelée et améliorée de son précédent filtre de contenu. L’outil devrait faciliter l’analyse et le marquage du contenu. Tous les développeurs d’API OpenAI obtiennent un accès gratuit à une base de données formée à l’IA via le filtre.

Profiter des investissements dans les infrastructures

Grâce au renouvellement et à la disponibilité de Moderation endpoint, OpenAI cherche à aider les développeurs à protéger leurs applications contre d’éventuels abus. À cette fin, ils ont accès à une base de données formée par l’IA qui sert de protection supplémentaire en plus de la supervision humaine. OpenAI, qui avait précédemment mis à disposition le modèle de langage GPT3, a rédigé un article sur cette nouvelle application.

Le point de terminaison de la modération permet aux développeurs de bénéficier des investissements infrastructurels qu’OpenAI a réalisés auparavant. Au lieu de construire leur propre base de données, les développeurs peuvent désormais accéder à des fichiers constamment mis à jour via un simple appel API.

Quel est son fonctionnement exact ? Pour chaque entrée de texte, Moderation endpoint détermine si le contenu est de nature sexuelle, haineuse, violente ou autodestructrice. L’outil est formé pour répondre rapidement et avec précision. Selon OpenAI, cela réduit le risque que les applications émettent de fausses informations.

OpenAI

Écosystème d’IA plus sûr

OpenAI ouvre Moderation endpoint à tout contenu généré par l’API OpenAI pour assurer la sécurité de son écosystème d’IA. L’association sans but lucratif aime donner quelques exemples. Par exemple, Inworld utilise cet outil pour éviter que ses personnages virtuels basés sur l’IA ne soient entachés par un contenu incorrect. La plate-forme de messagerie anonyme NGL, quant à elle, bénéficie de l’application pour filtrer les messages de haine et d’intimidation de son application.

Pour l’instant, Moderation Endpoint est exclusivement applicable aux utilisateurs de l’API OpenAI. Pour les non-API, l’outil est en version bêta et devra être payé.

newsletter

Abonnez-vous gratuitement à ITdaily !
Category(Required)
Consent(Required)
This field is for validation purposes and should be left unchanged.
retour à la maison