Patrons architecturaux de sécurité fonctionnelle pour les systèmes critiques basés sur l'IA

Les systèmes d'Intelligence Artificielle Incarnée (EAI) transforment les industries en permettant des interactions complexes avec des environnements dynamiques. Cependant, leur intégration dans des applications critiques pour la sécurité présente des défis, notamment pour satisfaire aux exigences de sécurité fonctionnelle. Les normes existantes telles que IEC 61508 et ISO 26262 fournissent des directives pour l'atténuation des risques mais manquent de solutions explicites pour les systèmes pilotés par l'IA. La nature stochastique des modèles d'Intelligence Artificielle (IA), combinée à la complexité croissante du matériel et des logiciels, introduit des risques tels que des insuffisances du modèle et des défaillances dans des architectures informatiques hétérogènes. Cet article propose une architecture de référence modulaire pour les systèmes EAI critiques pour la sécurité, alignée sur les normes de sécurité fonctionnelle et d'IA, y compris ISO/IEC TR 5469 et ISO/PAS 8800. Inspirée par des patrons de sécurité établis comme le concept E-gas dans le domaine automobile, l'architecture de référence proposée est appliquée à trois patrons de sécurité incrémentaux sur une plateforme NVIDIA JETSON ORIN, répondant progressivement aux exigences de sécurité tout en favorisant la réutilisabilité et la conformité. Ce travail fournit un cheminement structuré pour intégrer l'IA dans les systèmes critiques en définissant un ensemble d'architectures, de techniques de sécurité et de mesures qui forment la base des systèmes critiques pour la sécurité, assurant fiabilité, prévisibilité et conformité aux cadres de sécurité fonctionnelle.