Archives par tags: intelligence artificielle

Droit des nouvelles technologies

Directive UE- Responsabilité en matière d’IA

Posté le par bennani
24
Fév

La proposition de directive sur la responsabilité en matière d’intelligence artificielle (IA) avait pour ambition de compléter et de moderniser le cadre de l’Union européenne en matière de responsabilité civile, en introduisant pour la première fois des règles spécifiques aux dommages causés par des systèmes d’IA.

Le programme de travail de la Commission européenne pour 2025, publié le 11 février 2025, indique que ce texte est retiré, faute d’accord prévisible. À ce stade, la Commission indique qu’elle évaluera si une autre proposition devrait être déposée, ou si un autre type d’approche devrait être choisi.

La Commission européenne met l’accent sur la stimulation de l’innovation en, brisant les barrières réglementaires, pour exploiter tout le potentiel des données et de l’intelligence artificielle (IA).

L’objectif étant de maintenir le leadership industriel de l’UE et rendre les industries européennes résiliantes face aux défis du changement climatique, de la perte de biodiversité et de la pollution.

Selon la Commission, la condition préalable la plus importante pour une économie numérique prospère est une infrastructure numérique fiable et de grande capacité. Par conséquent, la loi sur les réseaux numériques créera des opportunités pour l’exploitation de réseaux et la fourniture de services transfrontaliers, renforcera la compétitivité de l’industrie et améliorera la
coordination du spectre.

En plus d’un meilleur accès aux données, soutenu par une loi sur le développement du cloud et de l’IA, la Commission déclare travailler pour tirer le meilleur parti des opportunités offertes par l’intelligence artificielle. Ce sera l’objectif d’un plan d’action pour un continent de l’IA couvrant les usines d’IA qui stimulent les écosystèmes d’IA compétitifs en Europe ainsi que de la stratégie Apply AI.

Avec la stratégie quantique de l’UE, suivie d’une loi quantique, la Commission entend conserver une position de leader mondial dans ce secteur critique, sauvegarder les actifs, les intérêts, l’autonomie et la sécurité stratégiques et éviter une situation de dépendance stratégique à l’égard de sources non européennes.

Droit bancaire,Droit des nouvelles technologies

Maroc – IA et blanchiment de capitaux

Posté le par bennani
30
Mai

Comment l’IA peut aider à lutter contre le blanchiment de capitaux?

Il s’agit de l’article consacré par Medias24 à un sujet d’actualité :

« Que ce soit en matière de traitement ou de détection, l’utilisation de l’intelligence artificielle peut réduire les coûts et les difficultés liés à la lutte contre le blanchiment d’argent et le financement du terrorisme. Voici l’éclairage de Me Zineb Naciri Bennani »

En effet, la lutte contre le blanchiment de capitaux et le financement de terrorisme est un centre de coûts très lourds en ressources humaines et financières notamment pour les autorités publiques et les institutions financières.

Les nouveaux outils algorithmiques de l’intelligence artificielle et de l’apprentissage automatique (machine learning) leur permettent de gagner en efficacité et en coût.

Plusieurs expériences étrangères citées démontrent l’efficacité du recours à l’intelligence artificiel mais également l’importance de l’intervention de l’humain qui ne peut être remplacé par la machine.

L’autorité nationale du renseignement financier joue un rôle pivot en la matière, avec le soutien mis en place au niveau international dans le cadre du GAFI.

Le Maroc prend en compte les recommandations du GAFI qui sont reconnues comme les normes internationales en la matière.

Un exemple peut être recherché au niveau européen avec la loi IA, une première au niveau mondial, visant à réglementer l’utilisation de l’intelligence artificielle.

L’objectif du texte, devant le caractère devenu indispensable aujorud’hui de l’IA, est de veiller à ce que les systèmes d’IA mis sur le marché soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux, les valeurs de l’UE, l’État de droit et la durabilité environnementale.

Le texte tend à garantir la sécurité juridique afin de faciliter les investissements et l’innovationdans le domaine de l’IA, à renforcer la gouvernance et l’application effective de la législation existante en matière d’exigences de sécurité applicables aux systèmes d’IA et de droits fondamentaux, et à faciliter le développement d’un marché unique pour des applications d’IA légales et sûres, et empêcher la fragmentation du marché.

Le rôle des banques est également mis en avant. Effectivement, aujourd’hui la conformité est devenue une mission de plus en plus complexe engendrant des sanctions pouvant être lourdes pour les entreprises et l’intelligence artificielle s’avère être la réponse la plus efficace.

Les avocats sont confrontés à des problématiques au niveau déontologiques dans le cadre de la déclaration de soupçon. La déclaration de soupçon est prévue par la loi 43-05 à l’article 9. La déclaration de soupçon porte sur toutes sommes, opérations ou tentatives de réalisation d’opérations par des clients habituels et occasionnels, pour lesquelles les avocats soupçonnent ou ont de bonnes raisons de soupçonner qu’elles pourraient être liées au blanchiment de capitaux ou au financement du terrorisme.

Les signaux d’alarme proviennent généralement d’une ou de plusieurs caractéristiques factuelles, comportements, ou autres facteurs contextuels qui révèlent des irrégularités, et qui peuvent être automatisés par les outils utilisant l’intelligence artificielle.

Néanmoins, au regard de l’obligation de secret professionnel pesant sur l’avocat et l’importance de la confiance du client en son avocat il est nécessaire de pouvoir mettre à leur disposition les outils nécessaires, sous le contrôle des autorités ordinales, et des formations adaptées (guides pratiques, modules de formation, communications de l’ordre) pour leur permettre de maîtriser entièrement la question.

Pour lire l’article :

Droit des nouvelles technologies

Europe – Loi sur l’intelligence artificielle

Posté le par bennani
28
Mai

Une loi inédite a été votée en mars 2024. La loi sur l’IA est un règlement européen sur l’intelligence artificielle (IA).

La loi classe les applications de l’IA dans trois catégories de risque :

  • les applications et les systèmes qui créent un risque inacceptable, tels que les systèmes de notation sociale gérés par le gouvernement, comme ceux utilisés en Chine, sont interdits ;
  • les applications à haut risque, comme un outil de balayage de CV qui classe les candidats à l’emploi, sont soumises à des exigences légales spécifiques ;
  • les applications qui ne sont pas explicitement interdites ou répertoriées comme présentant un risque élevé échappent en grande partie à la réglementation.

Cette loi a toutes les changes de devenir une norme mondiale, comme c’est le cas pour le RGPD.

Parmi les objectifs, il s’agit de garantir le respect des droits fondamentaux des citoyens.

Les applications interdites

Les applications qui représentent une menace potentielle pour les droits des citoyens et la démocratie, le législateur européen a convenu d’interdire :

– les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple: opinions politiques, religieuses, philosophiques, orientation sexuelle, race));

– l’extraction non ciblée d’images faciales sur Internet ou par vidéosurveillance pour créer des bases de données de reconnaissance faciale

– la reconnaissance des émotions sur le lieu de travail et les établissements d’enseignement;

– la notation sociale basée sur le comportement social ou les caractéristiques personnelles ;

– les systèmes d’IA qui manipulent le comportement humain pour contourner le libre arbitre ;

– l’IA utilisée pour exploiter les vulnérabilités des personnes (en raison de leur âge, de leur handicap, de leur situation sociale ou économique).

Exemptions pour les services répressifs

Pour l’utilisation des systèmes d’identification biométrique dans les espaces accessibles au public à des fins répressives, sous réserve d’une autorisation judiciaire préalable et pour des listes d’infractions strictement définies, des garanties et exceptions sont prévues.

Les systèmes d’identification biométrique « à distance » seront utilisés strictement dans le cadre de la recherche ciblée d’une personne condamnée ou soupçonnée d’avoir commis un crime grave.

Les systèmes d’identification biométrique « en temps réel » répondront à des conditions strictes et leur utilisation sera limitée dans le temps et dans l’espace :

– recherche ciblée de victimes (enlèvement, traite, exploitation sexuelle),

– la prévention d’une menace terroriste précise et actuelle, ou

– la localisation ou l’identification d’une personne soupçonnée d’avoir commis l’un des crimes spécifiques mentionnés dans le règlement (terrorisme, traite, exploitation sexuelle, meurtre, enlèvement, viol, vol à main armée, participation à une organisation criminelle, crime contre l’environnement).

Des obligations pour les systèmes à haut risque

Pour les systèmes d’IA classés comme présentant un risque élevé, les députés ont réussi à inclure une analyse d’impact obligatoire sur les droits fondamentaux, entre autres exigences, également applicable au secteur bancaire et des assurances.

Des garde-fous pour les systèmes généraux d’intelligence artificielle

Les systèmes mis en place  à usage général devront respecter des exigences de transparence.

Pour les systèmes d’IA à usage général présentant un risque systémique, il sera nécessaire de respecter des obligations plus strictes.

Des sanctions lourdes

Le non-respect des règles peut entraîner des amendes allant de 7,5 millions d’euros ou 1,5 % du chiffre d’affaires à 35 millions d’euros ou 7 % du chiffre d’affaires mondial, en fonction de l’infraction et de la taille de l’entreprise.