2023-04 ¶
2023-04-25 Etre « plus empathique » avec les employés … Quel progrès humain… ¶
« J’utilise ChatGPT au moins une fois par jour, explique le directeur des ressources humaines d’une grande entreprise informatique.
Je prépare des communications aux équipes : projet de déménagement, événements ou célébrations… »
Il confie être allé jusqu’à demander au robot de « nuancer » son propos pour, par exemple, être « plus empathique » avec les employés… —
Quel progrès humain…
2023-04-25 VirusTotal bénéficie désormais d’une nouvelle fonctionnalité baptisée Code Insight dont l’objectif est d’effectuer de l’analyse de code via une intelligence artificielle ¶
VirusTotal bénéficie désormais d’une nouvelle fonctionnalité baptisée Code Insight dont l’objectif est d’effectuer de l’analyse de code via une intelligence artificielle afin de mieux détecter les menaces.
Grâce à VirusTotal Code Insight et à l’intelligence artificielle, l’analyse des fichiers suspects et malveillants sera plus poussée notamment pour expliquer le comportement d’un logiciel malveillant et mieux détecter ceux qui sont réellement dangereux.
Pour mettre au point Code Insight, VirusTotal s’est appuyé sur Google Cloud Security AI Workbench et sur le grand modèle de langage (LLM) Sec-PaLM , adapté aux scénarios de cybersécurité.
Au sein de l’annonce officielle, Bernardo Quintero, le fondateur de VirusTotal, explique que Code Insight est utilisé pour le moment pour analyser des fichiers PowerShell, sans traiter les fichiers trop volumineux ou similaires : « Cette approche permet une utilisation efficace des ressources d’analyse et garantit que seuls les fichiers les plus pertinents (tels que les fichiers PS1) sont soumis à un examen approfondi. » -
D’autres formats de fichiers seront pris en charge dans les prochains jours, mais le déploiement s’effectue en douceur.
2023-04-25 The Dual LLM pattern for building AI assistants that can resist prompt injection ¶
2023-04-22 Run ChatGPT-Style Questions Over Your Own Files Using the OpenAI API and LangChain! ¶
I’m sure you’ve all heard about ChatGPT by now. It’s an amazing Large Language Model (LLM) system that is opening up new and exciting innovative capabilities.
However, it’s been trained over a huge corpus of text from across the internet but what if you want to query your own file or files?
Thanks to the simple (but powerful!) OpenAI API and the amazing work done by the team at LangChain, we can knock up a basic Question and Answering application that answers questions from your files.
This is all very new technology so I’m also learning as I go along and am always open to hearing feedback and improvements I can make - feel free to comment!
2023-04-18 Yom Hashoah thoughts AI will make it much easier to rewrite history ¶
Yom Hashoah thoughts: AI will make it much easier to rewrite history—to provide fake scholarship & documentation of things that never happened, or to erase or contradict those that did.
Institutions will have to guard against it vigilantly.
The attack on memory will happen soon
2023-04-18 💩 WebScrapeai 27 dollars/mois ahahah ! ¶
De nombreux outils d’IA permettent à chacun de scrapper comme un développeur et on aime particulièrement WebScrapeai. Va sur le site, et regarde la vidéo.
En 40 secondes tu deviens un roi du scrapping, et il y a une période d’essai de 7 jours donc tu n’as plus d’excuse. Je voulais vous parler de cet outil car il illustre bien deux fortes convictions de Mister IA :
-
L’IA permet de faire d’immenses gains de productivité sans avoir besoin de recruter 3 développeurs à plein temps.
-
Pour chaque tâche un peu répétitive, il faut désormais que tu te demandes s’il existe un outil d’IA qui permette une automatisation. Je suis sûr qu’au moins une fois par mois, tu perds une heure à faire des copier-coller à partir d’un site. Plus jamais!
2023-04-18 💲 Godmode, enfin un accès grand public vers AutoGPT ¶
On te parlait vendredi 14 avril 2023 du lancement d’AutoGPT, une forme d’intelligence artificielle qui définit elle-même une liste de tâches permettant d’atteindre un objectif donné.
Malheureusement, l’utilisation d’AutoGPT était, jusqu’il y a encore quelques jours, réservée aux développeurs aguerris.
Mais encore une fois, tout va si vite dans l’IA… Des spécialistes d’AutoGPT ont décidé de créer une interface grand public afin que chacun puisse tester le fonctionnement de ce nouveau cerveau artificiel. Comme je le dis souvent, l’IA rend simple ce qui était auparavant complexe… en seulement quelques jours.
Cette interface grand public se nomme God Mode, en toute modestie.
Sans plus attendre, rends-toi sur le site et tape une demande dans la barre de recherche. Pour tester l’outil, je lui ai demandé de me préparer une étude de marché sur l’offre de restaurants à Lyon comparée à celle de Nice, avec l’objectif de choisir quel est le meilleur endroit pour installer mon futur établissement.
Tout de suite après, la machine commence à m’indiquer (en anglais) quelles sont les étapes à suivre pour atteindre mon objectif, comme tu le vois ci-dessous.
2023-04-18 💩 Musk vs Altman vs Page, la guerre de l’IA ne fait que commencer ¶
C’est l’histoire de 3 Américains un peu fous qui sont sur un bateau.
Le premier s’appelle Sam Altman et il est considéré depuis quelques mois comme le king de l’IA. Il faut dire qu’on lui doit OpenAI donc ChatGPT.
Le second se nomme Elon Musk, et il a la particularité d’avoir été tour à tour financeur d’Open AI, critique d’OpenAI et désormais fondateur d’une start-up concurrente d’Open AI. On lui prête de grandes ambitions dans ce domaine depuis qu’il a recruté des dizaines d’ingénieurs spécialisés dans l’IA générative et qu’il a acheté 10 000 GPUs.
Un GPU est un processeur conçu pour effectuer très rapidement des tonnes de calculs, c’est un peu la matière première de l’IA.
Le troisième a moins réussi dans les affaires puisqu’il n’a créé que Google dans sa vie professionnelle. Pauvre Larry Page, pas facile de rater sa vie.
Pour essayer de rentrer quand même un peu dans l’histoire, il vient d’annoncer le lancement du projet Magi.
L’objectif est de proposer sur le moteur de recherche une expérience plus proche de ce qu’offre ChatGPT, c’est-à-dire plutôt des réponses directes à des questions que le renvoi vers des sites sur lesquels il y a, peut-être, un bout de réponse. Le produit n’est pas encore prêt mais on nous annonce déjà GIFI (des images générées par l’IA qui se retrouve dans les résultats de recherche d’images), Search Along (un chatbot conversationnel) ou encore une nouvelle version de Google Earth.
Une chose est sûre, Google a décidé de se disrupter lui-même !
2023-04-16 LLMs can be thought of as a linguistic reflection of what Husserl called the natural attitude ¶
In a conversation with a colleague yesterday I finally figured out how to explain something:
so I’ve talked before about how LLMs can be thought of as a linguistic reflection of what Husserl called the natural attitude: the patterns of how language is used, things are described, all the shorthands in meaning we use
that’s why they work as « cliche » generators, able to produce text that fulfills the patterns of various kinds of text: you can produce language that has the form of a research paper, a YA dystopia, a book for kindergartners
and this isn’t even a negative judgment, I do think the tech has uses, but this is just literally what it does
so again I’ve written about all of that in more detail elsewhere
so what’s the new insight?
that it’s the opposite of poetry
it specifically hit me that poetry is all about getting around the natural attitude, it’s non-literal use of language in unexpected ways to convey phenomenal experience as directly as possible
Out of the Software Crisis ¶
The other is the astute observation, by clarissa over on Mastodon, that because algogen text is all about generating text as it’s normally used—it’s middling utilitarian as an explicit ideal—that makes it the opposite of poetry.
Where poetry de-familiarises, algogen is perfect familiarity.
Where poetry casts the unexceptional as exceptional, draws out the unusual beauty in the usual, and reuses language in original ways, algogen aspires to peak mundane. Even when it’s ostensibly creative, it only does so through postmodern mash-ups: mixing up tropes, conventions, and references. It is perfectly mediocre.
2023-04-14 ¶
2023-04-08 Running Dolly 2.0 on Paperspace ¶
Dolly 2.0 looks to be a big deal. It calls itself « the first open source, instruction-following LLM, fine-tuned on a human-generated instruction dataset licensed for research and commercial use. »
I’ve been trying to run it.
I failed to get it to work on my M2 MacBook Pro, so I fired up a 30GB GPU instance on Paperspace instead.
It sort-of worked.
It’s taking nearly 12 minutes to respond to a prompt yet, so I’m suspicious that I’m not using the right incantations to get it to actually run on the GPU there.
2023-04-08 PassGAN (Generative Adversarial Network) pour cracker un mot de passe le plus rapidement possible ¶
Les chercheurs en sécurité de chez Home Security Heroes ont mis au point une intelligence artificielle baptisée PassGAN (Generative Adversarial Network) dans un but bien précis : cracker un mot de passe le plus rapidement possible.
Ce qu’il faut savoir.
Pour tenter de deviner un mot de passe, cette intelligence artificielle s’appuie sur deux réseaux neuronaux : un premier pour générer les mots de passe et un deuxième pour tester les mots de passe.
Cette intelligence artificielle a été nourrie par une base de 15,6 millions de mots de passe récupérée sur le Dark Web (issue du piratage de RockYou en 2009).
D’après les tests réalisés sur cette base de mots de passe, en conservant uniquement les mots de passe de 4 à 18 caractères, il lui faut moins d’une minute pour cracker 51% des mots de passe les plus communs.
Pour le reste, il a fallu moins d’une heure pour découvrir les deux tiers (65 %) des mots de passe, moins d’un jour pour atteindre 71% et moins d’un mois pour atteindre 81%.
Prenons l’exemple d’un mot de passe de 7 caractères, l’IA PassGAN peut le cracker en moins de 6 minutes même s’il contient des chiffres, des minuscules, des majuscules et des caractères spéciaux !
Si le mot de passe est plus long, l’IA se montre beaucoup moins efficace (au même titre qu’une attaque brute force traditionnelle) puisque cela peut durer des mois.
D’ailleurs, Home Security Heroes explique qu’il faudrait 14 milliards d’années à PassGAN pour deviner un mot de passe composé d’au moins 15 caractères et qui aurait des minuscules, majuscules, chiffres et caractères spéciaux.
Ce n’est pas la peine de paniquer…
Depuis plusieurs mois, les intelligences artificielles, c’est LE sujet à la mode depuis que ChatGPT est devenu un véritable phénomène…
Alors, forcément, évoquer une IA capable de cracker des mots de passe très rapidement peut effrayer les utilisateurs, et en même temps c’est intrigant.
Toutefois, si vous utilisez des mots de passe robustes, vous n’avez rien à craindre de l’IA PassGAN. Même si au final, c’est une menace de plus pour nos bons vieux mots de passe et une belle piqûre de rappel pour nous encourager à utiliser des mots de passe digne de ce nom.
C’est aussi l’occasion de rappeler que la notion d’entropie qui permet de calculer la force d’un mot de passe est la clé pour avoir des mots de passe robustes, comme je l’expliquais dans un précédent article.
Plutôt que d’utiliser des mots de passe, il peut être intéressant d’utiliser des phrases de passe (passphrases) car elles sont naturellement plus longues .