Chair: Dr. Julian Jaursch (interface-eu.org)
Panelbeschreibung:
„Das Panel behandelt die Verantwortung großer Plattformen für systemische Risiken unter dem Digital Services Act. Dabei soll beleuchtet werden, ob die neue Kategorie der systemischen Risiken, zu denen bspw. die Beeinflussung der gesellschaftlichen Debatte gehört, dazu beitragen kann, Plattformen für gesellschaftlich relevante Gefährdungen zur Verantwortung zu ziehen und für unabhängige Forschungsprojekte zu öffnen. Ziel ist eine kritische Analyse des Regulierungsansatzes des DSA und der beteiligten und adressierten Akteure.”
Julian Jaursch ist Projektleiter im Bereich „Stärkung der digitalen Öffentlichkeit” bei der gemeinnützigen Organisation interface. Seine Arbeitsschwerpunkte sind Fragen des Umgangs mit Desinformation und der Regulierung von Technologieplattformen. Er analysiert Ansätze der Plattformregulierung im deutschen, europäischen und transatlantischen Kontext und entwickelt Handlungsempfehlungen für politische und zivilgesellschaftliche Entscheidungsträger.
Vorhersagemacht als Facette von Plattformmacht
Jun.-Prof. Dr. Hannah Ruschemeier (FernUniversität in Hagen)
Prof. Dr. Rainer Mühlhoff (Universität Osnabrück)
Abstract:
„Wir führen das Konzept der ‚Vorhersagemacht‘ als eine entscheidende Komponente für das Verständnis von Plattformmacht ein. Plattformmacht gehört zu den Herausforderungen, mit denen sich das Gesetz über digitale Dienste (DSA) befasst. Wir werden untersuchen, ob das Regelungskonzept der DSA geeignet ist, die Vorhersagekraft einzuhegen. Plattformen, insbesondere sehr große Online-Plattformen (Very Large Online Platforms, VLOPs), spielen eine zentrale Rolle im Prozess der digitalen Transformation. Machtfragen überschneiden sich mit Fragen der Rechtsstaatlichkeit und der Regulierung – Konzepte, die einen doppelten Zweck erfüllen und sowohl auf die Legitimierung als auch auf die Begrenzung von Macht abzielen. Wir gehen davon aus, dass zur Bewältigung dieser Herausforderungen ein interdisziplinärer Ansatz erforderlich ist.
Unser Konzept der Plattformmacht betont die Dimension der Informationsasymmetrien. Wir argumentieren, dass Vorhersagemacht eine wichtige, wenn auch oft vernachlässigte Facette von Plattformmacht ist. Plattformmacht geht über ökonomische Macht in Form einer marktbeherrschenden Stellung hinaus und beinhaltet eine Form von Herrschaft und Kontrolle über die Datenaggregation und die daraus resultierende Informationsproduktion. Die daraus resultierende Vorhersagekraft ermöglicht es den Eigentümer:innen großer aggregierter Datensätze (z.B. Tracking-Daten, Kaufdaten, Nutzungsdaten usw.), auf nicht offengelegte Informationen (z.B. Geschlecht, sexuelle Orientierung, Einkommen usw.) über Einzelpersonen zu schließen.
Wir argumentieren, dass die Fähigkeit, solche datengestützte Vorhersagemodelle zu entwickeln und zu pflegen, untrennbar mit der Stärke der Plattform verbunden ist. Die Extraktion von Daten ist kein bloßes Nebenprodukt, sondern ein integraler Bestandteil der Geschäftsmodelle und Architekturen der Plattformen. Die Nutzung solcher Einschätzungen in großem Maßstab durch die automatische Anwendung von Vorhersagemodellen auf Millionen von Nutzer:innen trägt dazu bei, soziale Unterschiede, Ausgrenzungsmuster, Diskriminierung und Ausbeutung zu schaffen und zu verfestigen. Wir beleuchten die informationelle Dimension von Plattformmacht, die sich nicht auf die ökonomische Dimension reduzieren lässt. So ist die Prognosefähigkeit eine wichtige Dimension der Plattformmacht und eine zeitgenössische Manifestation der Asymmetrie der Informationsmacht. Vorhersagekraft steht denjenigen zur Verfügung, die in der Lage sind, massive Datensätze anzuhäufen; sie bietet einen marktfähigen Vorteil gegenüber Konkurrenten, und sie kann (und wird) gegen einzelne Datensubjekte und die Gesellschaft als Ganzes eingesetzt werden, indem sie soziales Sortieren, Diskriminierung und Verletzungen der Privatsphäre ermöglicht. Dies hat Auswirkungen auf soziale und demokratische Funktionen sowie auf das Infrastrukturmanagement und die Rechte des Einzelnen.”
Hannah Ruschemeier ist seit 2022 Juniorprofessorin für Öffentliches Recht mit Schwerpunkt Datenschutzrecht und Recht der Digitalisierung (Tenure Track W3) an der Rechtswissenschaftlichen Fakultät der FernUniversität in Hagen. Sie hat Rechtswissenschaft an der Westfälischen Wilhelms-Universität Münster und der National and Kapodistrian University Athen studiert. Ende 2018 wurde sie mit der Dissertation zum additiven Grundrechtseingriff an der Heinrich-Heine-Universität in Düsseldorf promoviert. Nach ihrem Rechtsreferendariat und dem Zweiten Staatsexamen war sie am Center for Advanced Internet Studies (CAIS) in Bochum zunächst als Forschungsreferentin im Projekt „Künstliche Intelligenz in Staat und Verwaltung” und im Anschluss als Principal Investigator Rechtswissenschaften im Team ELSI (ethical, legal and social issues of digitalisation) tätig. Zu ihren Forschungsschwerpunkten zählen die Regulierung neuer Technologien, digitale Aspekte von Verwaltungs- und Verfassungsrecht, rechtstheoretische Grundlagen der Digitalisierung, Datenschutzrecht und rechtliche Aspekte von Privatheit.
Rainer Mühlhoff, Philosoph und Mathematiker, ist Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück. Er forscht zu Ethik, Datenschutz und kritischer Sozialtheorie in der digitalen Gesellschaft. In seiner interdisziplinären Arbeit bringt er Philosophie, Medienwissenschaft und Informatik zusammen und untersucht das Wechselspiel von Technologie, Macht und gesellschaftlicher Veränderung.
Systemische Risikoanalyse und individueller Rechtsschutz – Normative und praktische Herausforderungen
Niklas Eder (Oxford Law School & King’s College London)
Abstract:
„Zwei Regulierungsansätze sind im DSA zentral: systemische Risikoanalysen und individueller Rechtsschutz. Dieser Vortrag befasst sich mit normativen Grundlagen und praktischen Herausforderungen in beiden Bereichen.
Der Vortrag stellt systemische Risikoanalysen als einen entscheidenden Schritt in Richtung einer Verantwortlichkeit von Plattformen vor. Zugleich bringen Risikoanalysen, die sich mit Regulierung von öffentlicher Rede und Meinungen befassen, große Herausforderungen mit sich. Traditionelle Bezugspunkte für die Regulierung von Content Moderation wie Allgemeine Geschäftsbedingungen, Vertragsfreiheit, Grundrechte und Expertenwissen bieten keine ausreichende und legitime Grundlage für die Konkretisierung von Pflichten zur Risikoanalyse. Auch staatliche Akteure wie die Kommission sollten davon absehen, inhaltliche Standards zu definieren, da sie unmittelbar an die Garantien der Meinungsfreiheit gebunden sind. Stattdessen sollte die Kommission einen prozeduralen Rahmen fördern, der es der Zivilgesellschaft ermöglicht, die Standards für systemische Risiken im Laufe der Zeit zu spezifizieren und zu verfeinern.
Im Hinblick auf den individuellen Rechtsschutz wird erläutert, wie außergerichtliche Streitbeilegungsstellen den gerichtlichen Rechtsschutz ergänzen und so zum Schutz der Rechte von Nutzern und anderen Betroffenen beitragen können. Drei Elemente werden diskutiert, die den Mehrwert von Streitbeilegungsstellen bestimmen: Ihre Unabhängigkeit, ihre Fähigkeit, gut begründete Entscheidungen zu treffen, und ihr Ansatz Grundrechte zu berücksichtigen.”
Niklas Eder (LLM und Maître en Droit) ist Mitbegründer von User Rights, Postdoctoral Fellow für digitale Politik am Centre for Socio Legal Studies der Oxford Law School und Gastdozent am King’s College London. Zuvor war Niklas Senior Policy Officer beim Oversight Board, wo er Arbeitsbereiche zu systemischen Risikobewertungen, automatisierter Inhaltsmoderation und strategischer Governance leitete. Niklas war außerdem Fellow am Information Society Project der Yale Law School, wo er sich mit der Bewertung der gesellschaftlichen Auswirkungen von KI befasste. Als Gastwissenschaftler an der Columbia University forschte er über die Legitimität des Europäischen Gerichtshofs im Kontext von Rechtsstaatskonflikten. Seine Dissertation schrieb er bei Mattias Wendel an der Universität Leipzig unter dem Titel Legal Reasoning and the Values of the EU – A Reflection on the Past, Present and Future of ECJ. Er arbeitete an der Freien Universität Berlin, der Humboldt-Universität zu Berlin und im Deutschen Bundestag. Niklas hat einen LL.M. vom King’s College London, eine Maîtrise en Droit von der Université Paris 2 und einen Abschluss in Rechtswissenschaften von der Humboldt-Universität.
Systemische Risikominderung – Innovation oder leeres Versprechen? Herausforderungen bei der Durchsetzung von Nutzer:innenrechten
Svea Windwehr (Gesellschaft für Freiheitsrechte)
Abstract:
„Der Ansatz systemischer Risikoanalysen (Art. 34 DSA) und entsprechenden Risikominderungsstrategien (Art. 35 DSA) ist eine zentrale Errungenschaft des Digital Services Act, um gesamtgesellschaftlich negativen Auswirkungen von sehr großen Online-Plattformen begegnen zu können. Jenseits von individuellen Nutzer:innenrechten und deren Durchsetzung bietet das Konzept systemischer Risiken so neue Potenziale für den Schutz von Grundrechten im Netz. Insbesondere der breite Katalog an nicht-definierten systemischen Risiken ist ein Hoffnungsschimmer für Akteure, die gegen rechtlich schwer zu fassende Herausforderungen wie den Einfluss von Online-Plattformen auf öffentliche Diskurse oder die öffentliche Gesundheit vorgehen möchten. So scheint die Durchsetzung der Artikel 34 und 35 die allgegenwärtige Antwort auf viele der aktuell komplexesten Fragen im Bereich der Plattformregulierung zu sein. Dem gegenüber stehen signifikante Herausforderungen in der Durchsetzung der systemischen Risikoverpflichtungen des DSA, sowie divigierende Interessen und Erwartungen von Aufsichtsbehörden und zivilgesellschaftlichen Akteuren.
Der Vortrag gibt einen Überblick zu verschiedenen Ansätzen bei der Durchsetzung der systematischen Risikoverpflichtungen des DSA und geht auf die dabei auftretenden Herausforderungen insbesondere für zivilgesellschaftliche Akteure ein.”
Svea Windwehr leitet das Center for User Rights der Gesellschaft für Freiheitsrechte, das sich auf die Durchsetzung von Nutzer*innenrechten gegenüber Online-Plattformen fokussiert. Zuvor hat sie in Public Policy bei Google zu Plattform- und KI-Regulierung gearbeitet. Als Mercator Fellow war sie bei der Electronic Frontier Foundation und dem Bundesministeriums für Arbeit und Soziales tätig, davor arbeitete sie bei DG Connect der Europäischen Kommission und betreute in dieser Rolle digitalpolitische Gesetzgebungsprozesse. Sie ist ehrenamtliche Co-Vorsitzende von D64 – Zentrum für digitalen Fortschritt e.V. und Mitglied des Beirats der Koordinierungsstelle für Digitale Dienste. Sie studierte Politikwissenschaft und internationale Beziehungen in Maastricht und Berkeley und erwarb einen Masterabschluss am Internet Institute der University of Oxford.