Aux États-Unis, le commandement des opérations spéciales souhaite utiliser les deepfakes comme arme de manipulation, de désinformation et d’influence. L’organisation voudrait aussi obtenir les moyens pour vérifier le bon fonctionnement d’une opération de manipulation des masses.

Les exemples de deepfakes ultraréalistes ne manquent pas et lorsque ces vidéos factices sont dopées avec des intelligences artificielles (IA) évoluées, détecter le vrai du faux devient très problématique. Même celles que l’on peut considérer comme bas de gamme peuvent fonctionner auprès des populations. Ce fut notamment le cas en début d’année pour un deepfake au Burkina Faso. Une vidéo, qui circulait sur les réseaux sociaux, faisait croire à un soutien de panafricanistes américains à la junte au pouvoir. Le gouvernement américain, comme bien d’autres, met souvent en garde contre le risque que peuvent représenter ces deepfakes dans l’art de la manipulation. Les États-Unis soutiennent la mise au point d’outils pour les mettre en évidence et en limiter la portée. Mais cette lutte porte surtout sur les tentatives de manipulation à destination du pays. Parce que l’envers de la médaille est en revanche bien moins glorieux. Ainsi, selon les documents que le média The Intercept a pu analyser, le commandement des opérations spéciales du pays (SOCOM) se prépare à mener des campagnes de propagande et de manipulation via le Web à l’aide de vidéos deepfakes.

Intitulée « Technologies avancées à utiliser dans les opérations de soutien de l’information militaire (MISO) », la section 4.3.1.4 de ce document présente cette demande d’emploi d’outils numériques destinés à manipuler les masses. Elle a été présentée avec de nombreuses autres propositions d’outils futuristes censés aider les forces spéciales dans leurs missions. Outre les deepfakes, on trouve pêle-mêle des robots tueurs, des systèmes d’arme au laser, des drones…  Pour ce qui est des manipulations de masse, les documents décrivent également les méthodes souhaitées pour obtenir des retours fiables sur les opérations en cours. Fiables, car elles reposent tout bonnement sur le piratage des appareils connectés, d’un accès aux réseaux sociaux et médias, pour les analyser et évaluer la sensibilité des populations à une opération de propagande en cours.

Les premiers deepfakes ont été créés en 2017 grâce aux progrès des algorithmes d’apprentissage automatique. Le résultat est parfois très impressionnant. Mais souvent, même des deepfakes de mauvaise qualité peuvent suffire à influencer. Cet exemple peu convaincant avec le président ukrainien Volodymyr Zelensky aurait pu faire basculer la guerre dès le début de l’invasion s’il avait pris. Mais des études récentes montrent que ces deepfakes peuvent désormais duper au moins la moitié des observateurs. © Capture YouTube

Une redoutable arme d’influence géopolitique

Pour le moment, il ne s’agit que de demandes du SOCOM (Special Operations Command) et aucune technologie précise n’est invoquée. Les descriptions se limitent à donner le cadre à des outils tactiques de manipulation et de désinformation, ainsi que les moyens pour obtenir un retour précis sur leur bonne emprise auprès des publics visés.

Mais, selon The Intercept, alors que les États-Unis s’érigent souvent en donneur de leçon de vérité et de réalité, le SOCOM n’en serait pas vraiment à son coup d’essai. Par exemple, l’organisme a déjà poussé Twitter à accepter la présence d’un réseau de comptes bidon pour pousser de fausses informations sur le trafic d’organes d’afghans par le gouvernement iranien. Les profils de ces « trolls », étaient générés par des algorithmes de deep learning. Il leur conférait suffisamment de réalisme pour devenir crédibles. Ces opérations secrètes d’influence ne sont donc pas nouvelles et sont d’ailleurs présentées publiquement par la CIA depuis plusieurs années déjà.

Mais le passage aux deepfakes dans ce type d’opération pousse la barre un peu plus haut. Pour ce qui est des cibles, le document reste centré sur la demande d’outils techniques. On n’en saura donc pas plus, mais elles pourraient tout aussi bien être utilisées pour toucher certaines populations dans le pays, ou comme arme d’influence à l’étranger. Une méthode qui rappelle celles menées par le Kremlin depuis maintenant des années, avec des résultats parfois tangibles sur des élections ou pour pousser des narratifs auprès des populations, avec dans certains cas un certain succès. Est-ce pour combler cette lacune et contrecarrer ces méthodes que le Pentagone souhaite également les développer ? En tout cas, la révélation de ces documents a outré et inquiété les experts interrogés par The Intercept.

The post Les forces spéciales américaines veulent utiliser les deepfakes pour manipuler l’opinion first appeared on Thiéli.

The post Voilà pourquoi il faut changer ses mots de passe régulièrement first appeared on Thiéli.

Le modèle de langage GPT passe à la version 4. OpenAI a annoncé la nouvelle génération de son IA, dont la version 3.5 a donné ChatGPT. Elle serait beaucoup plus précise et nuancée, et multimodale. Une nouvelle version qui est toutefois réservée aux abonnés pour l’instant.

OpenAI, la firme derrière le fameux chatbot ChatGPT, vient d’annoncer la nouvelle version très attendue de son grand modèle de langage (LLM), GPT-4. Cette nouvelle version est d’ores et déjà disponible pour les abonnés ChatGPT Plus (à 20 dollars par mois), et les développeurs pourront s’inscrire sur liste d’attente pour accéder à la nouvelle API (interface de programmation).

La firme n’a pas dévoilé les détails techniques qui différencient GPT-4 de son prédécesseur. Toutefois, elle affirme que cette nouvelle IA « est plus fiable, plus créative et capable de traiter des instructions beaucoup plus nuancées que GPT-3.5 ». Là où ChatGPT est limité à 3 000 mots en entrée ou sortie, la nouvelle version peut atteindre 25 000 mots. De quoi donner des sueurs froides à ceux qui cherchent à reconnaître les contenus générés par IA.

Une IA qui comprend les images en plus du texte

Contrairement à ce qu’avait indiqué Microsoft Allemagne la semaine dernière, GPT-4 ne prendra pas en charge les vidéos. Malgré tout, il s’agit bel et bien d’un modèle multimodal. L’IA accepte des images en entrée, en plus du texte, mais les réponses seront limitées au texte. Toutefois, la prise en charge des images ne sera pas accessible au grand public dans l’immédiat. Elle est actuellement testée par Be My Eyes, une application d’assistance pour personnes malvoyantes.

Même s’il faudra attendre pour pouvoir utiliser des images, les démonstrations de la version multimodale de GPT-4 sont impressionnantes. Lorsque l’IA est présentée avec une photo de ballons flottants attachés au sol par des fils, et la question « Que se passerait-il si les fils étaient coupés », elle est capable de comprendre le contenu de l’image et de répondre « Les ballons s’envoleraient ». Dans un autre exemple, GPT-4 répond à une photo de lait, œufs et farine avec des idées de recettes. Plus besoin de rester devant la porte ouverte du frigo en essayant de décider quoi préparer pour le dîner. Il suffira d’envoyer une photo à l’IA pour avoir des suggestions.

Plus de bonnes réponses, moins d’hallucinations

OpenAI prévient que GPT-4 est toujours sujette aux hallucinations, mais que cette dernière version a tout de même moins tendance à se tromper. Le taux de bonnes réponses serait amélioré de 40 % par rapport à la version actuelle de ChatGPT, et le risque de répondre à des demandes de contenus non autorisés serait réduit de 82 %. C’est une bonne nouvelle lorsque l’on sait que la firme a plusieurs partenariats commerciaux. Duolingo, l’application pour apprendre les langues, a annoncé son service Duolingo Max, des conversations avec GPT-4 en langue étrangère (actuellement limité au français et à l’espagnol pour les utilisateurs anglophones). Le système de paiement en ligne Stripe utilise GPT-4 pour le support technique et pour lutter contre la fraude.

Ceux qui ont accès à la nouvelle version de Bing avec l’IA conversationnelle (après s’être inscrit sur liste d’attente) ont d’ailleurs déjà testé GPT-4. Après avoir évité de donner une réponse claire ces dernières semaines, Microsoft a enfin confirmé que son moteur de recherche intègre bel et bien le nouveau modèle de langage.

The post OpenAI annonce GPT-4, une IA multimodale et créative first appeared on Thiéli.

Pour faire fonctionner sa flotte de drones de livraison en réseau et gagner du temps, la société Wing compte implanter des points de collecte des colis un peu partout dans les villes. Avec eux, plus besoin d’attendre l’arrivée d’un drone pour lui accrocher la commande.

Les livraisons par drone sont bel et bien devenues une réalité dans certaines régions des États-Unis. L’un des principaux acteurs du secteur est Wing, une filiale de la maison mère de Google. Ses drones sont essentiellement utilisés pour livrer des repas de façon plus fluide et rapide. Pour gagner encore plus de temps et les faire fonctionner en réseau, Wing vient de mettre au point des portiques de livraison. Ces stations qui occupent l’équivalent d’une place de parking permettent au restaurateur d’accrocher la commande sans avoir à attendre l’arrivée d’un drone. Dès qu’il y en a un de disponible, il passe récupérer le colis sans même avoir besoin d’atterrir. Un filin descend du ventre du drone. Il passe entre les deux bras d’une structure en Y. Ces bras viennent guider le crochet pour qu’il puisse agripper la commande automatiquement. Ces stations portent le nom d’AutoLoader.

Ces étranges stations de livraison occupent une place de parking et permettent de déposer le colis à livrer sans avoir à attendre le passage d’un drone. © Wing

Des stations de livraison automatique

Pour identifier une station, les drones Wing lisent un code QR qui est peint sur le sol. Wing devrait déployer ces stations au cours des 12 prochains mois. Cela permettrait également de fonctionner à la façon d’un réseau et faire en sorte que les drones de passage puissent transporter plusieurs colis durant un vol, en en récupérant sur le chemin du retour, par exemple. Si le secteur de la livraison par drone décolle, et que ce genre d’initiative est efficace pour optimiser les livraisons, il reste quand même du domaine de l’expérimental. Il existe toujours beaucoup de restrictions imposées pour le moment par les autorités de réglementation américaines.

https://www.futura-sciences.com

The post Vers des livraisons par drone encore plus rapides aux États-Unis grâce à ce système first appeared on Thiéli.

• Depuis début janvier, YouTube a fortement renforcé son outil de reconnaissance vocale et démonétise désormais les vidéos comprenant des insultes et des grossièretés. Certaines thématiques ont également été interdites par la plateforme.
• Une décision qualifiée d’hypocrite par certains, qui pointent du doigt d’autres contenus haineux ou de désinformation, toujours en ligne, qui ont échappé à la modération.
• YouTube explique sa décision par la priorité donnée à la sécurité des utilisateurs. Pour Emmanuelle Patry, spécialiste des réseaux sociaux, c’est davantage « par logique économique » que la plateforme a agi.

Sur son site, YouTube détaille longuement les consignes relatives au « langage inapproprié ». Mais entre ce qui est autorisé, ce qui est toléré et ce qui est totalement interdit, la frontière est floue. Si les mots tels que « « salope », « merde », « con », « c*nnard » ou « put*** » », qualifiés de langage vulgaire, sont interdits, d’autres comme « « bordel » ou « chier » » – tolérés à la télévision – ne sont pas concernés par cette règle. Et il faut ajouter à ça le facteur temps. Certains mots sont tolérés uniquement après les quinze premières secondes de la vidéo.

Une décision qui n’étonne pas Emmanuelle Patry, créatrice du programme Social Media Expert. « YouTube, c’est une entreprise américaine, elle est régie par des règles américaines. Ils n’ont pas les mêmes tolérances que nous. A la télévision américaine, la moindre insulte est bipée. C’est une manière de s’exprimer plus lisse, plus politiquement correct. Ils ont l’habitude de le faire depuis longtemps. En France, notre rapport aux insultes et aux grossièretés est vraiment différent », explique-t-elle.

« Un bon équilibre »

De son côté, si YouTube reconnaît que la « machine s’est un petit peu emballée », évoquant « des effets de bord » de l’outil de reconnaissance vocal, la plateforme affirme « travailler l’outil pour qu’il n’y ait plus de démonétisation systématique », a indiqué un porte-parole à 20 Minutes. L’idée, « ce n’est pas d’éradiquer l’intégralité des gros mots sur la plateforme, mais de trouver le bon équilibre entre un contenu haineux et le fait de pouvoir garder une certaine spontanéité et une liberté d’expression sur la plateforme », justifie cet interlocuteur, ajoutant que « ce n’est pas l’insulte en tant que telle qui est visée, mais un usage quasi exclusif et répété ». Face à la grogne de ses stars, YouTube assure « avoir pris en compte leurs feedbacks » et être « rentré en contact avec les créateurs impactés pour pouvoir leur apporter des solutions ».

Mais au pays des persona non grata de YouTube, il n’y a pas que sur les insultes et les grossièretés. L’une des vidéos de Jean-Baptiste Toussaint, fondateur de la chaîne « Tales From The Click », où il évoque la mort de Kurt Cobain, le chanteur du groupe Nirvana, a tout simplement été supprimée de la plateforme. « Ma vidéo sur Kurt Cobain a été supprimée car dedans je dis qu’il s’est… suicidé, a-t-il écrit sur son compte Twitter. Ça pose une vraie question. N’est-il désormais plus possible de raconter l’Histoire ? Faut-il la modifier en lui inventant une autre mort ? »

De son côté, YouTube avance un contenu relatif à l’automutilation, interdit sur la plateforme : « Des images de la scène de la mort de Kurt Cobain sont présentées à 7’13, notamment un cadavre ainsi que la méthode de suicide. Ces images ne sont pas autorisées par notre règlement », a répondu la plateforme sur Twitter. Si la plateforme affirme dans son règlement qu’il est « important de s’informer et de comprendre les questions de santé mentale » et qu’elle « soutient les créateurs qui partagent leur expérience en publiant des contenus où ils évoquent leur combat face à la dépression, l’automutilation ou d’autres problèmes de santé mentale », elle interdit « les contenus incitant au suicide ou à l’automutilation, destinés à choquer ou à susciter du dégoût, ou qui présentent un risque important pour les spectateurs ».

« Le risque zéro n’existe pas »

La plateforme ferait-elle le pari de la sécurité pour ses utilisateurs ? Pour Emmanuelle Patry, c’est davantage une logique économique. « L’objectif est d’en faire un espace plus clean pour la publicité. S’il y a des insultes et des propos haineux, les annonceurs ont moins envie d’y investir », explique-t-elle. Pour cette experte, il y a aussi un facteur de différenciation : « Sur les autres plateformes, il y a moins de modération, le contenu est moins propre. D’autant que sur YouTube, les annonceurs payent plus cher, car les vidéos sont plus longues et plus qualitatives », analyse-t-elle.

Mais pour certains, ce durcissement de la règle est même hypocrite. Alors que plusieurs youtubeurs ont vu leurs vidéos démonétisées après avoir laissé échapper quelques vulgarités, d’autres contenus haineux ou de désinformation échappent à la modération, récoltant des revenus publicitaires au passage. « C’est plus facile de modérer des insultes que du racisme ou de la misogynie. C’est quelque chose auquel ils peuvent s’attaquer plus facilement », estime Emmanuelle Patry. D’autant que la plateforme prône la neutralité, rappelle l’experte : « Dans certains cas, ça équivaut à prendre parti. C’est politique de s’engager contre quelque chose. »

« Le risque zéro n’existe pas », justifie YouTube, qui reconnaît que certaines vidéos « borderline » restent en ligne. « Certains connaissent très bien notre règlement, ils arrivent à la détourner, et notre règlement ne permet pas de les supprimer. Mais il y a quand même des leviers d’actions, on peut démonétiser une vidéo, limiter sa virilité ou l’empêcher de remonter sur Google », poursuit le porte-parole de la plateforme. Entre juillet et septembre 2022, ce sont 5,5 millions de chaînes et plus de 5,6 millions de vidéos qui ont été supprimées par YouTube.

Source: https://www.20minutes.fr

The post YouTube : Insultes bannies, thématiques interdites… La sécurité des utilisateurs, vraie priorité ou fausse excuse ? first appeared on Thiéli.

The post Ce drone quadrirotor peut voler et se transformer en sous-marin first appeared on Thiéli.