Kaderverdrag van de Raad van Europa over artificiële intelligentie en de mensenrechten, de democratie en de rechtsstaat

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law

Preamble

The member States of the Council of Europe and the other signatories hereto,

Considering that the aim of the Council of Europe is to achieve greater unity between its members, based in particular on the respect for human rights, democracy and the rule of law;

Recognising the value of fostering co-operation between the Parties to this Convention and of extending such co-operation to other States that share the same values;

Conscious of the accelerating developments in science and technology and the profound changes brought about through activities within the lifecycle of artificial intelligence systems, which have the potential to promote human prosperity as well as individual and societal well-being, sustainable development, gender equality and the empowerment of all women and girls, as well as other important goals and interests, by enhancing progress and innovation;

Recognising that activities within the lifecycle of artificial intelligence systems may offer unprecedented opportunities to protect and promote human rights, democracy and the rule of law;

Concerned that certain activities within the lifecycle of artificial intelligence systems may undermine human dignity and individual autonomy, human rights, democracy and the rule of law;

Concerned about the risks of discrimination in digital contexts, particularly those involving artificial intelligence systems, and their potential effect of creating or aggravating inequalities, including those experienced by women and individuals in vulnerable situations, regarding the enjoyment of their human rights and their full, equal and effective participation in economic, social, cultural and political affairs;

Concerned by the misuse of artificial intelligence systems and opposing the use of such systems for repressive purposes in violation of international human rights law, including through arbitrary or unlawful surveillance and censorship practices that erode privacy and individual autonomy;

Conscious of the fact that human rights, democracy and the rule of law are inherently interwoven;

Convinced of the need to establish, as a matter of priority, a globally applicable legal framework setting out common general principles and rules governing the activities within the lifecycle of artificial intelligence systems that effectively preserves shared values and harnesses the benefits of artificial intelligence for the promotion of these values in a manner conducive to responsible innovation;

Recognising the need to promote digital literacy, knowledge about, and trust in the design, development, use and decommissioning of artificial intelligence systems;

Recognising the framework character of this Convention, which may be supplemented by further instruments to address specific issues relating to the activities within the lifecycle of artificial intelligence systems;

Underlining that this Convention is intended to address specific challenges which arise throughout the lifecycle of artificial intelligence systems and encourage the consideration of the wider risks and impacts related to these technologies including, but not limited to, human health and the environment, and socio-economic aspects, such as employment and labour;

Noting relevant efforts to advance international understanding and co-operation on artificial intelligence by other international and supranational organisations and fora;

Mindful of applicable international human rights instruments, such as the 1948 Universal Declaration of Human Rights, the 1950 Convention for the Protection of Human Rights and Fundamental Freedoms (ETS No. 5), the 1966 International Covenant on Civil and Political Rights, the 1966 International Covenant on Economic, Social and Cultural Rights, the 1961 European Social Charter (ETS No. 35), as well as their respective protocols, and the 1996 European Social Charter (Revised) (ETS No. 163);

Mindful also of the 1989 United Nations Convention on the Rights of the Child and the 2006 United Nations Convention on the Rights of Persons with Disabilities;

Mindful also of the privacy rights of individuals and the protection of personal data, as applicable and conferred, for example, by the 1981 Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data (ETS No. 108) and its protocols;

Affirming the commitment of the Parties to protecting human rights, democracy and the rule of law, and fostering trustworthiness of artificial intelligence systems through this Convention,

Have agreed as follows:

CHAPTER

I

GENERAL PROVISIONS

Article

1

Object and purpose

Article

2

Definition of artificial intelligence systems

For the purposes of this Convention, “artificial intelligence system” means a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations or decisions that may influence physical or virtual environments. Different artificial intelligence systems vary in their levels of autonomy and adaptiveness after deployment.

Article

3

Scope

CHAPTER

II

GENERAL OBLIGATIONS

Article

4

Protection of human rights

Each Party shall adopt or maintain measures to ensure that the activities within the lifecycle of artificial intelligence systems are consistent with obligations to protect human rights, as enshrined in applicable international law and in its domestic law.

Article

5

Integrity of democratic processes and respect for the rule of law

CHAPTER

III

PRINCIPLES RELATED TO ACTIVITIES WITHIN THE LIFECYCLE OF ARTIFICIAL INTELLIGENCE SYSTEMS

Article

6

General approach

This chapter sets forth general common principles that each Party shall implement in regard to artificial intelligence systems in a manner appropriate to its domestic legal system and the other obligations of this Convention.

Article

7

Human dignity and individual autonomy

Each Party shall adopt or maintain measures to respect human dignity and individual autonomy in relation to activities within the lifecycle of artificial intelligence systems.

Article

8

Transparency and oversight

Each Party shall adopt or maintain measures to ensure that adequate transparency and oversight requirements tailored to the specific contexts and risks are in place in respect of activities within the lifecycle of artificial intelligence systems, including with regard to the identification of content generated by artificial intelligence systems.

Article

9

Accountability and responsibility

Each Party shall adopt or maintain measures to ensure accountability and responsibility for adverse impacts on human rights, democracy and the rule of law resulting from activities within the lifecycle of artificial intelligence systems.

Article

10

Equality and non-discrimination

Article

11

Privacy and personal data protection

Each Party shall adopt or maintain measures to ensure that, with regard to activities within the lifecycle of artificial intelligence systems:

  • a)

    privacy rights of individuals and their personal data are protected, including through applicable domestic and international laws, standards and frameworks; and

  • b)

    effective guarantees and safeguards have been put in place for individuals, in accordance with applicable domestic and international legal obligations.

Article

12

Reliability

Each Party shall take, as appropriate, measures to promote the reliability of artificial intelligence systems and trust in their outputs, which could include requirements related to adequate quality and security throughout the lifecycle of artificial intelligence systems.

Article

13

Safe innovation

With a view to fostering innovation while avoiding adverse impacts on human rights, democracy and the rule of law, each Party is called upon to enable, as appropriate, the establishment of controlled environments for developing, experimenting and testing artificial intelligence systems under the supervision of its competent authorities.

CHAPTER

IV

REMEDIES

Article

14

Remedies

Article

15

Procedural safeguards

CHAPTER

V

ASSESSMENT AND MITIGATION OF RISKS AND ADVERSE IMPACTS

Article

16

Risk and impact management framework

CHAPTER

VI

IMPLEMENTATION OF THE CONVENTION

Article

17

Non-discrimination

The implementation of the provisions of this Convention by the Parties shall be secured without discrimination on any ground, in accordance with their international human rights obligations.

Article

18

Rights of persons with disabilities and of children

Each Party shall, in accordance with its domestic law and applicable international obligations, take due account of any specific needs and vulnerabilities in relation to respect for the rights of persons with disabilities and of children.

Article

19

Public consultation

Each Party shall seek to ensure that important questions raised in relation to artificial intelligence systems are, as appropriate, duly considered through public discussion and multistakeholder consultation in the light of social, economic, legal, ethical, environmental and other relevant implications.

Article

20

Digital literacy and skills

Each Party shall encourage and promote adequate digital literacy and digital skills for all segments of the population, including specific expert skills for those responsible for the identification, assessment, prevention and mitigation of risks posed by artificial intelligence systems.

Article

21

Safeguard for existing human rights

Nothing in this Convention shall be construed as limiting, derogating from or otherwise affecting the human rights or other related legal rights and obligations which may be guaranteed under the relevant laws of a Party or any other relevant international agreement to which it is party.

Article

22

Wider protection

None of the provisions of this Convention shall be interpreted as limiting or otherwise affecting the possibility for a Party to grant a wider measure of protection than is stipulated in this Convention.

CHAPTER

VII

FOLLOW-UP MECHANISM AND CO-OPERATION

Article

23

Conference of the Parties

Article

24

Reporting obligation

Article

25

International co-operation

Article

26

Effective oversight mechanisms

CHAPTER

VIII

FINAL CLAUSES

Article

27

Effects of the Convention

Article

28

Amendments

Article

29

Dispute settlement

In the event of a dispute between Parties as to the interpretation or application of this Convention, these Parties shall seek a settlement of the dispute through negotiation or any other peaceful means of their choice, including through the Conference of the Parties, as provided for in Article 23, paragraph 2, sub-paragraph e.

Article

30

Signature and entry into force

Article

31

Accession

Article

32

Territorial application

Article

33

Federal clause

Article

34

Reservations

Article

35

Denunciation

Article

36

Notification

The Secretary General of the Council of Europe shall notify the member States of the Council of Europe, the non-member States which have participated in the elaboration of this Convention, the European Union, any signatory, any contracting State, any Party and any other State which has been invited to accede to this Convention, of:

  • a)

    any signature;

  • b)

    the deposit of any instrument of ratification, acceptance, approval or accession;

  • c)

    any date of entry into force of this Convention, in accordance with Article 30, paragraphs 3 and 4, and Article 31, paragraph 2;

  • d)

    any amendment adopted in accordance with Article 28 and the date on which such an amendment enters into force;

  • e)

    any declaration made in pursuance of Article 3, paragraph 1, sub-paragraph b;

  • f)

    any reservation and withdrawal of a reservation made in pursuance of Article 34;

  • g)

    any denunciation made in pursuance of Article 35;

  • h)

    any other act, declaration, notification or communication relating to this Convention.

IN WITNESS WHEREOF the undersigned, being duly authorised thereto, have signed this Convention.

DONE in Vilnius, this 5th day of September 2024, in English and in French, both texts being equally authentic, in a single copy which shall be deposited in the archives of the Council of Europe. The Secretary General of the Council of Europe shall transmit certified copies to each member State of the Council of Europe, to the non-member States which have participated in the elaboration of this Convention, to the European Union and to any State invited to accede to this Convention.

Kaderverdrag van de Raad van Europa over artificiële intelligentie en de mensenrechten, de democratie en de rechtsstaat

Preambule

De lidstaten van de Raad van Europa en de andere staten die dit verdrag hebben ondertekend,

Overwegend dat het doel van de Raad van Europa is om een grotere eenheid tussen zijn leden tot stand te brengen, met name op basis van de eerbiediging van de mensenrechten, de democratie en de rechtsstaat;

De waarde onderkennend van het bevorderen van de samenwerking tussen de partijen bij dit verdrag en van de uitbreiding daarvan tot andere staten die dezelfde waarden delen;

Zich bewust van de snelle ontwikkelingen op het gebied van wetenschap en technologie en van de ingrijpende veranderingen die voortvloeien uit de activiteiten binnen de levenscyclus van artificiële-intelligentiesystemen („AI-systemen”), die door een verbetering van de vooruitgang en innovatie het potentieel hebben om de menselijke welvaart, het individuele en het maatschappelijke welzijn, de duurzame ontwikkeling, de gendergelijkheid, de empowerment van vrouwen en meisjes en andere belangrijke doelstellingen en belangen te bevorderen;

Onderkennend dat de activiteiten binnen de levenscyclus van AI-systemen ongekende kansen kunnen bieden om de mensenrechten, de democratie en de rechtsstaat te beschermen en te bevorderen;

Bezorgd dat bepaalde activiteiten binnen de levenscyclus van AI-systemen de menselijke waardigheid, de individuele autonomie, de mensenrechten, de democratie en de rechtsstaat kunnen ondermijnen;

Bezorgd over de risico’s van discriminatie in digitale context, met name indien daar AI-systemen mee gemoeid zijn, en over de potentiële gevolgen van die systemen voor het creëren of verergeren van ongelijkheden, bijvoorbeeld voor vrouwen en personen in kwetsbare situaties, met betrekking tot de uitoefening van hun mensenrechten en hun volledige, gelijke en doeltreffende deelname aan economische, sociale, culturele en politieke aangelegenheden;

Bezorgd over misbruik van AI-systemen en zich verzettend tegen het gebruik van dergelijke systemen voor repressieve doeleinden die met het internationaal recht inzake de mensenrechten in strijd zijn, onder meer door willekeurige of onrechtmatige inzet van toezicht en censuur die de privacy en de individuele autonomie uithollen;

Zich bewust van de inherente verbinding tussen de mensenrechten, de democratie en de rechtsstaat;

Ervan overtuigd dat prioriteit moet worden gegeven aan de instelling van een mondiaal toepasselijk rechtskader met gemeenschappelijke algemene beginselen en regels voor de activiteiten binnen de levenscyclus van AI-systemen, dat doeltreffend de gedeelde waarden in stand houdt en de voordelen van AI benut, ter bevordering van deze waarden op een voor verantwoorde innovatie bevorderlijke wijze;

Onderkennend dat de digitale geletterdheid en de kennis van en het vertrouwen in het ontwerp, de ontwikkeling, het gebruik en de ontmanteling van AI-systemen moeten worden bevorderd;

Onderkennend dat dit verdrag een kaderkarakter heeft en met extra instrumenten kan worden aangevuld om specifieke kwesties in verband met de activiteiten binnen de levenscyclus van AI-systemen aan te pakken;

Onderstrepend dat dit verdrag is bedoeld om specifieke uitdagingen aan te pakken die zich tijdens de levenscyclus van AI-systemen voordoen en de bredere risico’s en gevolgen van deze technologie in overweging te nemen, waaronder, maar niet uitsluitend, de volksgezondheid, het milieu en sociaal-economische aspecten zoals werkgelegenheid en arbeid;

Nota nemend van de inspanningen ter bevordering van het internationale begrip en de internationale samenwerking op het gebied van AI door andere internationale en supranationale organisaties en fora;

Indachtig de toepasselijke internationale mensenrechteninstrumenten, zoals de Universele Verklaring van de Rechten van de Mens van 1948, het Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden (ETS nr. 5) van 1950, het Europees Sociaal Handvest (ETS nr. 35) van 1961, het Internationaal Verdrag inzake burgerrechten en politieke rechten van 1966, het Internationaal Verdrag inzake economische, sociale en culturele rechten van 1966, hun bijbehorende protocollen, en het Europees Sociaal Handvest (herziene versie) (ETS nr. 163) van 1996;

Mede indachtig het Verdrag van de Verenigde Naties inzake de rechten van het kind van 1989 en het Verdrag van de Verenigde Naties inzake de rechten van personen met een handicap van 2006;

Voorts indachtig de privacyrechten van personen en de bescherming van persoonsgegevens, zoals van toepassing bij en verleend krachtens bijvoorbeeld het Verdrag tot bescherming van personen met betrekking tot de geautomatiseerde verwerking van persoonsgegevens (ETS nr. 108) van 1981 en de bijbehorende protocollen;

De toezegging bevestigend van de partijen aan de bescherming van de mensenrechten, de democratie en de rechtsstaat, en aan de bevordering van de betrouwbaarheid van AI-systemen door middel van dit verdrag,

zijn als volgt overeengekomen:

HOOFDSTUK

I

ALGEMENE BEPALINGEN

Artikel

1

Onderwerp en doel

Artikel

2

Definitie van artificiële-intelligentiesystemen

Voor de toepassing van dit verdrag wordt onder „artificiële-intelligentiesysteem” („AI-systeem”) verstaan een machinaal systeem dat voor expliciete of impliciete doeleinden uit de ontvangen input afleidt hoe het output kan genereren zoals voorspellingen, inhoud, aanbevelingen en beslissingen die op fysieke of virtuele omgevingen van invloed kunnen zijn. De autonomie en het aanpassingsvermogen van de verschillende AI-systemen na de uitrol lopen uiteen.

Artikel

3

Toepassingsgebied

HOOFDSTUK

II

ALGEMENE VERPLICHTINGEN

Artikel

4

Bescherming van de mensenrechten

Elke partij treft of handhaaft maatregelen om te waarborgen dat de activiteiten binnen de levenscyclus van AI-systemen overeenkomstig de toepasselijke nationale en internationale mensenrechtenverplichtingen.

Artikel

5

Integriteit van de democratische processen en eerbiediging van de rechtsstaat

HOOFDSTUK

III

BEGINSELEN BETREFFENDE ACTIVITEITEN BINNEN DE LEVENSCYCLUS VAN ARTIFICIËLE-INTELLIGENTIESYSTEMEN

Artikel

6

Algemene benadering

Dit hoofdstuk bevat algemene gemeenschappelijke beginselen betreffende AI-systemen die elke partij moet uitvoeren op een wijze die bij haar nationale rechtsstelsel en de andere verplichtingen van dit verdrag past.

Artikel

7

Menselijke waardigheid en individuele autonomie

Elke partij treft of handhaaft maatregelen om de menselijke waardigheid en de individuele autonomie met betrekking tot activiteiten binnen de levenscyclus van AI-systemen te eerbiedigen.

Artikel

8

Transparantie en toezicht

Elke partij treft of handhaaft maatregelen om te waarborgen dat er afdoende, op de specifieke context en risico’s afgestemde transparantie- en toezichtsvereisten gelden met betrekking tot activiteiten binnen de levenscyclus van AI-systemen, onder meer ten aanzien van de aanduiding van door AI-systemen gegenereerde inhoud.

Artikel

9

Verantwoordingsplicht en aansprakelijkheid

Elke partij treft of handhaaft maatregelen om de verantwoordingsplicht en de aansprakelijkheid te waarborgen voor negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat die uit activiteiten binnen de levenscyclus van AI-systemen voortvloeien.

Artikel

10

Gelijkheid en non-discriminatie

Artikel

11

Bescherming van de privacy en persoonsgegevens

Elke partij treft of handhaaft maatregelen om met betrekking tot de activiteiten binnen de levenscyclus van AI-systemen te waarborgen dat:

  • a.

    de privacyrechten van personen en hun persoonsgegevens worden beschermd, onder meer door middel van toepasselijke nationale en internationale wetten, normen en kaders; en

  • b.

    er doeltreffende waarborgen voor personen zijn ingevoerd, overeenkomstig de toepasselijke nationale en internationale wettelijke verplichtingen.

Artikel

12

Betrouwbaarheid

Elke partij treft al naargelang maatregelen om de betrouwbaarheid van AI-systemen en het vertrouwen in de output te bevorderen, zoals vereisten betreffende een toereikende kwaliteit en veiligheid gedurende de hele levenscyclus van AI-systemen.

Artikel

13

Veilige innovatie

Met het oog op het bevorderen van de innovatie en het voorkomen van negatieve gevolgen voor de mensenrechten, de democratie en de rechtsstaat, wordt elke partij verzocht om al naargelang steun te bieden aan de totstandbrenging van een gecontroleerde omgeving voor het ontwikkelen van, het experimenteren met en het testen van AI-systemen onder toezicht van haar bevoegde autoriteiten.

HOOFDSTUK

IV

RECHTSMIDDELEN

Artikel

14

Rechtsmiddelen

Artikel

15

Procedurele waarborgen

HOOFDSTUK

V

BEOORDELING EN BEPERKING VAN RISICO’S EN NEGATIEVE GEVOLGEN

Artikel

16

Kader voor risico- en effectbeheer

HOOFDSTUK

VI

UITVOERING VAN HET VERDRAG

Artikel

17

Non-discriminatie

De uitvoering van dit verdrag door de partijen wordt gewaarborgd vrij van discriminatie op enige grond, overeenkomstig de internationale mensenrechtenverplichtingen.

Artikel

18

Rechten van personen met een handicap en van kinderen

Overeenkomstig het nationale recht en de toepasselijke internationale verplichtingen neemt elke partij de specifieke behoeften en kwetsbaarheden met betrekking tot de eerbiediging van de rechten van personen met een handicap en van kinderen naar behoren in aanmerking.

Artikel

19

Openbare raadpleging

Elke partij beoogt te waarborgen dat belangrijke vragen met betrekking tot AI-systemen in voorkomend geval naar behoren in overweging worden genomen door middel van een openbaar debat en een raadpleging van belanghebbenden in het licht van de sociale, economische, juridische, ethische, milieu- en andere toepasselijke gevolgen.

Artikel

20

Digitale geletterdheid en vaardigheden

Elke partij bevordert een passend niveau van digitale geletterdheid en digitale vaardigheden voor alle segmenten van de bevolking, en van specifieke specialistische vaardigheden voor de verantwoordelijken voor de vaststelling, de beoordeling, de preventie en de beperking van de risico’s van AI-systemen.

Artikel

21

Waarborging van de bestaande mensenrechten

Niets in dit verdrag mag worden uitgelegd als een beperking, een afwijking of een andere aantasting van de mensenrechten of andere daarmee verband houdende wettelijke rechten en verplichtingen die kunnen worden gewaarborgd op grond van de toepasselijke wetgeving van een partij of van een andere toepasselijke internationale overeenkomst waarbij zij partij is.

Artikel

22

Ruimere bescherming

Geen van de bepalingen van dit verdrag mag worden uitgelegd als een beperking of een andere aantasting van de mogelijkheid voor een partij om een ruimere beschermingsmaatregel toe te kennen dan in dit verdrag is vastgesteld.

HOOFDSTUK

VII

FOLLOW-UPMECHANISME EN SAMENWERKING

Artikel

23

Conferentie van de partijen

Artikel

24

Verslagverplichting

Artikel

25

Internationale samenwerking

Artikel

26

Doeltreffende toezichtmechanismen

HOOFDSTUK

VIII

SLOTBEPALINGEN

Artikel

27

Gevolgen van het verdrag

Artikel

28

Wijzigingen

Artikel

29

Geschillenbeslechting

Bij een geschil tussen partijen over de uitlegging of de toepassing van dit verdrag streven deze partijen naar een geschillenbeslechting door middel van onderhandelingen of andere vreedzame middelen van hun keuze, waaronder de Conferentie van de partijen, overeenkomstig artikel 23, lid 2, punt e).

Artikel

30

Ondertekening en inwerkingtreding

Artikel

31

Toetreding

Artikel

32

Territoriale toepassing

Artikel

33

Federale clausule

Artikel

34

Voorbehouden

Artikel

35

Opzegging

Artikel

36

Kennisgeving

De Secretaris-Generaal van de Raad van Europa stelt de lidstaten van de Raad van Europa, de niet-lidstaten die aan de opstelling van dit verdrag hebben deelgenomen, de Europese Unie, elke ondertekenaar, elke verdragsluitende staat, elke partij en elke staat die is uitgenodigd tot dit verdrag toe te treden, in kennis van:

  • a.

    elke ondertekening;

  • b.

    de neerlegging van elke akte van bekrachtiging, aanvaarding, goedkeuring of toetreding;

  • c.

    elke datum van inwerkingtreding van dit verdrag overeenkomstig artikel 30, leden 3 en 4, en artikel 31, lid 2;

  • d.

    elke overeenkomstig artikel 28 aangenomen wijziging en de datum waarop een dergelijke wijziging in werking treedt;

  • e.

    elke verklaring krachtens artikel 3, lid 1, punt b);

  • f.

    elk voorbehoud en elke intrekking van een voorbehoud krachtens artikel 34;

  • g.

    elke opzegging krachtens artikel 35;

  • h.

    elke andere akte, kennisgeving of mededeling met betrekking tot dit verdrag.

TEN BLIJKE WAARVAN de ondergetekenden, daartoe naar behoren gemachtigd, dit verdrag hebben ondertekend.

GEDAAN te Vilnius, op 5 september 2024, in de Engelse en de Franse taal, waarbij beide teksten gelijkelijk authentiek zijn, in een enkel exemplaar dat zal worden neergelegd in het archief van de Raad van Europa. De Secretaris-Generaal van de Raad van Europa doet een gewaarmerkt afschrift toekomen aan iedere lidstaat van de Raad van Europa, aan de niet-lidstaten die hebben deelgenomen aan de opstelling van dit verdrag, aan de Europese Unie en aan iedere staat die is uitgenodigd tot dit verdrag toe te treden.