2023-03 ¶
2023-03-23 ChatGPT, Bard et cie : nouvelle course à l’IA, et pourquoi faire déjà ? ¶
Google va ajouter de l’IA générative dans Gmail et Docs.
Énième actualité d’un feuilleton permanent depuis « l’irruption » de ChatGPT. Et chez moi, un sentiment de malaise, d’incompréhension, et même de colère.
Qu’est-ce que ChatGPT ? Qu’est-ce que l’IA ? Ce sont d’abord d’immenses infrastructures : les câbles sous-marins, les serveurs des datacenters, mais aussi nos ordinateurs et nos smartphones.
Donc ce sont des terres rares et des minerais , dégueulasses à excaver et à purifier (heureusement un jour il n’y en aura plus ( https://yewtu.be/watch?v=i8RMX8ODWQs )).
Ensuite, c’est du traitement MASSIF de données .
Du vrai gavage de programmes d’apprentissages par des quantités phénoménales de données. C’est donc des infrastructures (encore) et de l’énergie. Une quantité phénoménale d’énergie, très largement carbonée.
Enfin, c’est beaucoup de main-d’œuvre sous-payée pour entraîner, tester, et entretenir les systèmes d’IA. ChatGPT, il ne faut pas l’oublier, ce n’est que la face émergée d’un très très gros iceberg.
Très gros et très sale.
Bref, développer une IA a un coût environnemental et humain énorme (et largement opaque), ce n’est pas que du code informatique tout propre .
À la rigueur, si le rapport coût/bénéfice était largement positif… Par exemple, si l’IA développée permettait des économies d’énergie de 30 % dans le monde, ou qu’elle permettait de mieux gérer les flux alimentaires et donc d’endiguer la faim, alors on pourrait sérieusement discuter de moralité (est-ce acceptable de détruire la planète et d’exploiter des humains pour sauver la planète et d’autres humains ?).
Mais à quoi servent ces IA génératives ? Pour le moment, à faire joujou, principalement. À chanter les louanges de l’innovation, évidemment. À se faire peur sur l’éternelle question du dépassement de l’humain par la machine, bien sûr.
Et ensuite ? Supprimer des postes dans des domaines plutôt créatifs et valorisés ? Défoncer les droits d’auteur en pillant leur travail via des données amassées sans régulation ? Gagner un peu de temps en rédigeant ses mails et ses documents ? Transformer encore un peu plus les moteurs de recherche en moteurs de réponses (avec tous les risques que ça comporte) ?
Est-ce bien sérieux ? Est-ce bien acceptable ?
Tout ça me laisse interrogateur, et même, en pleine urgence environnementale et sociale, ça me révolte. À un moment, on ne peut pas continuer d’alerter sur l’impact environnemental réel et croissant du numérique, et s’enthousiasmer pour des produits comme ChatGPT et consorts.
Or souvent, ce sont les mêmes qui le font !
Ce qui me révolte, c’est que toute cette exploitation humaine et naturelle, inhérente à la construction des Intelligences Artificielles, est tellement loin de ChatGPT que nous ne la voyons pas, ou plus, et nous ne voulons pas la voir. Cela se traduit par tous les messages, enthousiastes et même volubiles, postés quotidiennement, sans mauvaise intention de la plupart de leurs auteur⋅ice⋅s.
Symboliquement, je propose de boycotter ces technologies d’IA génératives.
Je ne suis heureusement pas utilisateur de Google et Microsoft, qui veulent en mettre à toutes les sauces (pour quoi faire ?).
J’espère que mes éditeurs de services numériques (a priori plus éthiques) ne céderont pas un pouce de leurs valeurs à cette hype mortifère…
2023-03-22 Introducing Mozilla.ai: Investing in trustworthy AI ¶
We’re committing $30M to build Mozilla.ai: A startup — and a community — building a trustworthy, independent, and open-source AI ecosystem.
We’re only three months into 2023, and it’s already clear what one of the biggest stories of the year is: AI.
AI has seized the public’s attention like Netscape did in 1994, and the iPhone did in 2007.
New tools like Stable Diffusion and the just-released GPT-4 are reshaping not just how we think about the internet, but also communication and creativity and society at large.
Meanwhile, relatively older AI tools like the recommendation engines that power YouTube, TikTok and other social apps are growing even more powerful and continuing to influence billions of lives.
This new wave of AI has generated excitement, but also significant apprehension.
We aren’t just wondering What’s possible? and How can people benefit? We’re also wondering What could go wrong? and How can we address it?
Two decades of social media, smartphones and their consequences have made us leery.
Mozilla has been asking these questions about AI for a while now — sketching out a vision for trustworthy AI, mobilizing our community to document what’s broken and investing in startups that are trying to create more responsible AI.
We’ve learned that this coming wave of AI (and also the last one) has tremendous potential to enrich people’s lives. But it will only do so if we design the technology very differently — if we put human agency and the interests of users at the core, and if we prioritize transparency and accountability.
The AI inflection point that we’re in right now offers a real opportunity to build technology with different values, new incentives and a better ownership model.
The good news: We’ve met literally thousands of founders, engineers, scientists, designers, artists and activists who are taking this approach to AI.
Smart, dedicated people are building open-source AI technology, testing out new approaches to auditing and figuring out how to build ‘trust’ into AI in the real world.
The less good news: We don’t see this happening amongst the big tech and cloud companies with the most power and influence. Meanwhile, these incumbents continue to consolidate their control over the market.
In short: Some people are starting to do things differently, but the most significant work (and investment) is happening the same old way. We want to change this.
So, today we are announcing Mozilla.ai: A startup — and a community — that will build a trustworthy and independent open-source AI ecosystem. Mozilla will make an initial $30M investment in the company.
The vision for Mozilla.ai is to make it easy to develop trustworthy AI products. We will build things and hire / collaborate with people that share our vision: AI that has agency, accountability, transparency and openness at its core.
Mozilla.ai will be a space outside big tech and academia for like-minded founders, developers, scientists, product managers and builders to gather. We believe that this group of people, working collectively, can turn the tide to create an independent, decentralized and trustworthy AI ecosystem a real counterweight to the status quo.
Mozilla.ai’s initial focus? Tools that make generative AI safer and more transparent.
And, people-centric recommendation systems that don’t misinform or undermine our well-being. We’ll share more on these — and what we’re building — in the coming months.
This new company will be led by Managing Director Moez Draief.
Moez has spent over a decade working on the practical applications of cutting-edge AI as an academic at Imperial College and LSE, and as a chief scientist in industry.
Harvard’s Karim Lakhani, Credo’s Navrina Singh and myself will serve as the initial Board of Mozilla.ai.
Later this year, we will announce additional initiatives, partners and events where people can get involved. If you are interested in collaborating, reach out at hello @ mozilla . ai .