Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz/Key points of the Federal Government for an Artificial Intelligence strategy As of 18 July 2018

Germany is a key player in the global development of regulatory structures for the use and operationalization of artificial intelligence (AI) (see here for discussion of emerging national AI strategies).  Artificial intelligence regulation is particularly interesting not merely in its own right, but also as a critical element in the construction of data analytics that, when embedded in algorithms, make it possible to manage behavior, to regulate, in real time beyond the conventional structures of law. 

In a sense, a curious transformation emerges from the efforts to use law and conventional administrative regulation as a means of constraining and shaping AI, and AI related systems of management. Law, in this context, becomes much more remote--it is transformed from a first to as second order regulatory device.  That is, law becomes most useful (and the administrative regulations through which it is amplified and made enforceable) as a means of constructing operational systems, rather than as the basis for the set of direct command that its objects must obey.  Law increasingly is best used to constitute systems rather than to serve as the means for operaitonalizing systems once constituted through meta-legal documents (constitutions, etc.). Clearly, of course, law will continue to operate in direct relation to its object in the conventional manner for some time.  Yet, emerging AI and data driven management points already to a change in the relation of law to governance, even within the conventional structures of public law.

One gets a sense of these shifts in the purpose and function of law from a reading of an important new report distributed by the German Government: Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz/Key points of the Federal Government for an Artificial Intelligence strategy (as of 18 July 2018).

Künstliche Intelligenz hat in den letzten Jahren eine neue Reifephase erreicht und entwickelt sich zum Treiber der Digitalisierung und Autonomer Systeme in allen Lebensbereichen.. . . Die Bundesregierung ist dabei bestrebt, die KI in sämtlichen Politik-feldern aktiv mitzugestalten. [Artificial intelligence has reached a new phase of maturity in recent years and is becoming the driver of digitization and autonomous systems in all areas of life. , The Federal Government strives to actively shape the AI in all policy fields.] (Ibid., p. 3).

"To achieve these goals requires the collective action of business, science, political and civil society" ("Um diese Ziele zu erreichen, ist gemeinschaftliches Handeln von Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft erforderlich.") (Ibid., p. 5). The entire report is worth a careful read, both for its focus on the efforts to bend AI and data driven regulation to the principles enshrined in Germany's political system, while conceding both the centrality of AI and its uses as well as the blending of social, economic, and political power it represents. 

The summary of the goals for this regulatory and policy project (Ibid., pp. 1-3) follow in the original German and in a crude English translation.


 

Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz

Stand: 18. Juli 2018

Die Bundesregierung wird bis Ende November dieses Jahres eine Strategie Künstliche Intelligenz (KI) erarbeiten und diese auf dem Digital-Gipfel 2018 in Nürnberg öffentlich vorstellen. Die vorliegenden Eckpunkte bauen unter anderem auf den Empfehlungen des Fachforums Autonome Systeme der Hightech-Strategie vom 20. März 2017 und der Expertenanhörung auf Einladung der Bundeskanzlerin am 29. Mai 2018 sowie Vorarbeiten der Bundesministerien auf. Die Bundesregierung wird zur Erstellung der Strategie weitere Expertenanhörungen u.a. zu speziellen Anwendungsfeldern und dem Ordnungsrahmen sowie zu sozialen Fragestellungen durchführen. Außerdem wird es einen Konsultationsprozess mit bundesweit arbeitenden Verbänden, Organisationen und Institutionen geben. Die Eckpunkte dienen als Grundlage für den Prozess der Erarbeitung der Strategie und geben Orientierung für Ziele und Handlungsfelder der Strategie sowie der unmittelbar von den Ressorts einzuleitenden Maßnahmen bis zur Verabschiedung der Strategie im Kabinett.

1. Ziele

a. Die Bundesregierung ist entschlossen, sowohl Forschung und Entwicklung als auch Anwendung von KI in Deutschland und Europa auf ein weltweit führendes Niveau zu bringen und dort zu halten. Deutschland soll zum weltweit führenden Standort für KI werden, insbesondere durch einen umfassenden und schnellen Transfer von Forschungsergebnissen in Anwendungen sowie die Modernisierung der Verwaltung. „Artificial Intelligence (AI) made in Germany“ soll zum weltweit anerkannten Gütesiegel werden.

b. Die Bundesregierung sieht sich in der Pflicht, eine verantwortungsvolle und gemein-wohlorientierte Nutzung von KI in Zusammenarbeit mit Wissenschaft, Wirtschaft, Staat und der Zivilgesellschaft voranzubringen. Auf der Grundlage europäischer Werte wie der Unantastbarkeit der Menschenwürde, der Achtung der Privatsphäre und des Gleichheitsgrundsatzes wollen wir die Potentiale der neuen Technologie heben.

c. Wir wollen eine europäische Antwort auf datenbasierte Geschäftsmodelle und neue Wege der datenbasierten Wertschöpfung finden, die unserer Wirtschafts-, Werte- und Sozialstruktur entspricht.

d. Wir wollen die sehr gute wissenschaftliche Basis der KI in Deutschland verbreitern und mit vielversprechenden anderen technologischen Entwicklungen und Anwendungen verknüpfen, um neue Anwendungen in verschiedenen Branchen, der öffentlichen Verwaltung und in gesellschaftlichen Bereichen zu erschließen.

e. Wir wollen, dass Deutschland seine gute Position in der KI-Forschung auch zusammen mit europäischen Partnern und Technologieführern zu einer Spitzenposition ausbaut. Wir streben an, ein attraktiver Forschungs- und Wirtschaftsstandort für KI-Expertinnen und -Experten aus dem In- und Ausland zu sein, der die weltweit klügsten Köpfe im Bereich KI anzieht und hält, und unsere Ausbildungskapazitäten im KI-Bereich deutlich ausweiten.

f. Wir wollen Wertschöpfung aus der Anwendung von KI erzeugen, den Nutzen von KI für die Bürgerinnen und Bürger in den Fokus unserer Bemühungen stellen – sowohl auf der persönlichen, individuellen Ebene als auch auf der gesellschaftlichen - und insbesondere veränderungsbedingte Risiken minimieren, Systeme überprüfbar machen und unzulässige Diskriminierungen unterbinden.

g. Im Hinblick auf den Einsatz von KI in der Arbeitswelt setzen wir uns für eine menschen-zentrierte Entwicklung und Nutzung von KI-Anwendungen ein. Wir wollen dafür Sorge tragen, dass die Erwerbstätigen bei der Entwicklung von KI-Anwendungen in den Mittelpunkt gestellt werden: die Entfaltung ihrer Fähigkeiten und Talente, ihre Selbstbestimmtheit, Sicherheit und Gesundheit.

h. Wir wollen die Potenziale von KI nutzen, um für alle Bürgerinnen und Bürger Sicher-heit, Effizienz und Nachhaltigkeit in Anwendungsfeldern von besonderer Bedeutung weiter zu verbessern und gleichzeitig soziale Teilhabe, Handlungsfreiheit und Selbst-bestimmung der Bürgerinnen und Bürger fördern.

i. Wir wollen, dass unsere spezifischen Datenbestände zum Wohle von Gesellschaft, Umwelt, Wirtschaft und Staat nutzbar gemacht werden und sich KI-basierte Geschäftsmodelle in Deutschland entwickeln und zu neuen Exportschlagern werden.

j. Wir schaffen mit dem Ausbau einer Infrastruktur zur Echtzeit-Datenübertragung in der Gigabitgesellschaft eine zentrale Grundlage für KI-Anwendungen. Davon sollen auch die öffentliche Verwaltung und die Netzinfrastrukturen des Bundes profitieren.

k. Wir wollen sicherstellen, dass IT-Systeme, die KI nutzen und zur Anwendung bringen, ein hohes Niveau an IT-Sicherheit gewährleisten, damit Manipulation, Missbrauch und Risiken für die öffentliche Sicherheit dieser sensitiven Technologie bestmöglich verhindert werden.

l. Wir wollen sowohl Entwicklerinnen und Entwickler als auch Nutzerinnen und Nutzer von KI-Technologie für die ethischen und rechtlichen Grenzen der Nutzung künstlicher Intelligenz sensibilisieren und prüfen, ob der Ordnungsrahmen für ein hohes Maß an Rechtssicherheit weiterentwickelt werden muss.

m. Die Empfehlungen der Datenethikkommission werden wir bei der Erarbeitung und Umsetzung der Strategie aufgreifen.

Key points of the Federal Government for an Artificial Intelligence strategy

As of 18 July 2018

The Federal Government will develop an Artificial Intelligence (AI) strategy by the end of November this year and will be presenting it publicly at the Digital Summit 2018 in Nuremberg. Among other things, the present cornerstones are based on the recommendations of the Expert Forum Autonomous Systems of the High-Tech Strategy of 20 March 2017 and the expert hearing held at the invitation of the Federal Chancellor on 29 May 2018, as well as preliminary work by the Federal Ministries. The Federal Government will host additional expert hearings, i.e. on specific fields of application and the regulatory framework as well as on social issues. There will also be a consultation process with national associations, organizations, and institutions. The key points will serve as a basis for the process of developing the strategy and provide orientation for objectives and fields of action of the strategy as well as the measures to be initiated directly by the ministries until the adoption of the strategy in the cabinet.

1. Goals

a. The federal government is committed to attain and maintain global leadership in both research and development as well the application of AI in Germany and Europe. Germany is to become the world's leading location for AI especially through a comprehensive and rapid transfer of research results in applications as well as the modernization of the administration.
"Artificial Intelligence (AI) made in Germany" should become a globally recognized seal of quality.

b. The Federal Government has a duty to develop a responsible and coordinated well-oriented use of AI in cooperation with science, industry, state and civil society. Based on European values ​​like the inviolability of human dignity, respect for privacy and the Equality principle, we want to raise the potential of the new technology.

c. We want to find a European response to data-driven business models and new ways of data-driven value creation that fits in with our economic, value and social structure.

d. We want to broaden the very good scientific base of AI in Germany and combine it with promising other technological developments and applications to open up new applications in various industries, public administration and social sectors.

e. We want Germany to develop its good position in AI research into a leading position together with European partners and technology leaders. We aim to be an attractive research and business location for domestic and foreign AI professionals, attracting and retaining the world's brightest AI minds, and significantly expanding our AI education capacity.

f. We want to create value from the application of AI, provide the benefits of AI for citizens in the focus of our efforts - both on the personal, individual and at the social level  - and particularly minimize change-related risks, making schemes verifiable and prevent illegal discrimination.

g. With respect to the use of AI in the workplace, we are committed to people-centered development and use of AI applications. We want to ensure that the workers remain at the center of the development of AI applications: the development of their skills and talents, their self-determination, health and safety.

h. We want to use the potential of AI to further improve safety, efficiency and sustainability for all citizens in fields of special importance, while at the same time promoting social participation, freedom of action and self-determination for citizens.

i. We want to sensitize both developers and users of AI technology to the ethical and legal limits of the use of artificial intelligence and to examine whether the regulatory framework needs to be further developed to ensure a high degree of legal certainty.

j. We are creating infrastructure for real-time data transmission in the Gigabit society as a central basis for AI applications. This should also benefit the public administration and the network infrastructures of the federal government.

k. We want to ensure that IT systems that use and deploy AI ensure a high level of IT security to best prevent the manipulation, misuse and risks to public safety of this sensitive technology.

l. We want to sensitize both developers and users of AI technology to the ethical and legal limits of the use of artificial intelligence and to examine whether the regulatory framework needs to be further developed for a high degree of legal certainty.

m. The recommendations of the Data Ethics Commission will be taken up in the formulation and implementation of the strategy.

-->