Liability of Generative AI for Defamation

This article explores the potential liability of generative AI (GenAI) operators for reputational harm under the EU legal framework, with a focus on three possible legal grounds: defamation, product liability, and non-contractual liability. National defamation law faces significant challenges in addressing AI-generated content in the absence of human intent or editorial control. While the new Product Liability Directive classifies AI systems as products, it excludes damages resulting from violations of personality rights from its scope of application. Accordingly, Member States’ non-contractual liability rules may offer the most viable path for claimants, despite the challenges of proving fault and the risk of conflicting judgments between jurisdictions. Since GenAI operators cannot foresee specific defamatory outputs, they should be held liable only when they know about the illegality – usually after a notification – and fail to take reasonable steps to block the output. These steps could include implementing machineunlearning techniques or filters. This would mean subjecting GenAI operators to a liability regime similar to that applicable to online platforms for hosting defamatory content. Résumé: Cet article explore la responsabilité potentielle des opérateurs d’IA générative en matière d’atteinte à la réputation dans le cadre juridique de l’UE, en se concentrant sur trois fondements juridiques possibles: la diffamation, la responsabilité du fait des produits défectueux et la responsabilité extracontractuelle. Le droit national en matière de diffamation est confronté à des défis importants lorsqu’il s’agit de traiter les contenus générés par l’IA en l’absence d’intention humaine ou de contrôle éditorial. Si la nouvelle directive sur les produits défectueux classe les systèmes d’IA comme des produits, elle exclut de son champ d’application les dommages résultant de violations des droits de la personnalité. En conséquence, les règles de responsabilité non contractuelle des États membres peuvent offrir la voie la plus viable pour les plaignants, malgré les difficultés à prouver la faute et le risque de jugements contradictoires. Étant donné que les opérateurs d’IA générative ne peuvent pas prévoir des résultats diffamatoires spécifiques, ils ne devraient être tenus responsables que lorsqu’ils ont connaissance de l’illégalité – généralement après une notification – et qu’ils ne prennent pas de mesures raisonnables pour bloquer le résultat. Ces mesures pourraient inclure la mise en œuvre de techniques de désapprentissage machines ou filtres. Cela signifierait soumettre les opérateurs de GenAI à un régime de responsabilité similaire à celui applicable aux plateformes en ligne hébergeant des contenus diffamatoires. Zusammenfassung: Dieser Artikel untersucht die mögliche Haftung von Betreibern generativer KI für Reputationsschäden im Rahmen des Rechts der Europäischen Union, mit besonderem Fokus auf drei mögliche Rechtsgrundlagen: Verleumdung, Produkthaftung und außervertragliche Haftung. Das nationale Verleumdungsrecht steht vor erheblichen Herausforderungen bei der Behandlung von KI-generierten Inhalten, wenn es an menschlicher Absicht oder redaktioneller Kontrolle fehlt. Obwohl die neue Produkthaftungsrichtlinie KI-Systeme als Produkte einstuft, schließt sie Schäden aus, die aus Verletzungen von Persönlichkeitsrechten resultieren, von ihrem Anwendungsbereich aus. Dementsprechend könnten die außervertraglichen Haftungsregeln der Mitgliedstaaten den gangbarsten Weg für Anspruchsteller bieten, trotz der Schwierigkeiten beim Nachweis eines Verschuldens und des Risikos widersprüchlicher Entscheidungen zwischen verschiedenen Gerichtsbarkeiten. Da Betreiber generativer KI spezifische verleumderische Ausgaben nicht vorhersehen können, sollten sie nur dann haftbar gemacht werden, wenn sie von der Rechtswidrigkeit Kenntnis haben – in der Regel nach einer Benachrichtigung – und es versäumen, angemessene Schritte zur Sperrung der betreffenden Ausgabe zu unternehmen. Zu diesen Schritten könnten die Implementierung von MachineUnlearning-Techniken oder Filtern gehören. Dies würde bedeuten, Betreiber generativer KI einem Haftungsregime zu unterwerfen, das demjenigen ähnelt, das für Online-Plattformen beim Hosting verleumderischer Inhalte gilt. Resumen: Este artículo explora la posible responsabilidad de los operadores de inteligencia artificial generativa por daños reputacionales en el marco jurídico de la Unión Europea, con base en tres posibles fundamentos jurídicos: la difamación, la responsabilidad por productos defectuosos y la responsabilidad extracontractual. El derecho nacional en materia de difamación presenta importantes dificultades para abordar los contenidos generados por IA en ausencia de intención humana o control editorial. Aunque la nueva Directiva sobre responsabilidad por productos defectuosos clasifica los sistemas de IA como productos, excluye de su ámbito de aplicación los daños derivados de vulneraciones de los derechos de la personalidad. En consecuencia, las normas de responsabilidad extracontractual de los Estados miembros pueden ofrecer la vía más viable para los demandantes, pese a las dificultades para probar la culpa y el riesgo de sentencias contradictorias. Dado que los operadores de IA generativa no pueden prever resultados difamatorios específicos, solo deberían ser considerados responsables cuando tengan conocimiento de la ilegalidad -generalmente tras una notificación – y no adopten medidas razonables para bloquear el contenido en cuestión. Estas medidas podrían incluir la implementación de técnicas de desaprendizaje automático o filtros. Ello supondría someter a los operadores de IA generativa a un régimen de responsabilidad similar al aplicable a las plataformas en línea por alojar contenidos difamatorios.