Medienspiegel

Juni 2023

Was genau ist eigentlich Künstliche Intelligenz?

MDR, 14. Juni 2023

»Spätestens seit dem Hype um das Sprachmodell ChatGPT ist das Thema Künstliche Intelligenz (KI) - oder Artificial Intelligence (AI) - wieder in aller Munde. Während die einen kaum abwarten können, was die Technologie künftig möglich machen wird, warnen gleichzeitig Fachleute auch vor den Risiken. Für Otto Normalverbraucher ohne Informatikstudium scheint die KI eine fast magische Technologie zu sein. [...]. Aber wie intelligent ist die Maschine?«

Für einen Artikel des MDR wurde Prof. Stefan Wrobel, Leiter des Fraunhofer- Instituts für Intelligente Analyse- und Informationssysteme IAIS, in einem Interview zu den Themen KI, Machine Learning, starke und schwache KI, generative AI und Deep Learning befragt.

So antwortet Prof. Stefan Wrobel auf die Frage ob die Intelligenz einer KI überhaupt mit der Intelligenz, im menschlichen Sinne, vergleichbar ist, dass Vergleiche auch möglich seien, wenn Dinge einen unterschiedlichen Charakter hätten. »Ein Flugzeug fliegt nicht so wie ein Vogel, ein Computer denkt nicht so wie ein Mensch. Wir müssen die Leistungen betrachten und dann beurteilen, ob wir dieses als genauso intelligent, weniger intelligent oder als intelligenter einstufen als das, was im Vergleich ein Mensch tun würde.«

zum Artikel

Elchtest für Künstliche Intelligenz

FAZ, 5. Juni 2023

Die rasante Entwicklung der künstlichen Intelligenz (KI) hat das Potential, unsere Gesellschaft grundlegend zu verändern. KI birgt aber nicht nur Chancen sondern auch ernstzunehmende Risiken, weshalb die EU Unternehmen zur umfassenden Kontrolle Künstlicher Intelligenz verpflichten will.

»Dr. rer. nat. Maximilian Poretschkin weiß schon länger, welche Mammutaufgaben da auf Wirtschaft und Gesellschaft zukommen. Seit 2018 arbeitet er an einem hochkomplexen Problem: Wie lässt sich sicherstellen, dass eine Künstliche Intelligenz (KI) zuverlässig das tut, was sie tun soll?

Poretschkin hat die Abteilung für KI-Absicherung und Zertifizierung am Fraunhofer-Institut für Intelligente Analyse und Informationssysteme (lATS) aufgebaut und leitet das Projekt Zertifizierte KI zusammen mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI). KI-Technologien dringen in immer mehr Lebensbereiche ein‹, sagt er — darunter in verantwortungsvolle Felder wie Medizinprodukte, hochautomatisiertes Fahren oder automatisierte Kreditwürdigkeitsbewertungen. Da gewinnt die Frage, ob ich einer KI vertrauen kann, an Bedeutung.‹ Künftig dürfte es sogar den Beruf des KI-Prüfers‹ geben, schätzt Poretschkin.«

Mai 2023

Blick ins Gehirn

Spiegel, 6. Mai 2023

In einem Artikel des Spiegel kam unsere Datenwissenschaftlerin Sina Mackay im Rahmen der Forschung von Neurowissenschaftler Dr. Alexander Huth von der University of Texas in Austin zu Wort. 

Dr. Alexander Huth und sein Team, haben in ihrer Forschung einem Computer beigebracht, Hirnaktivität in Sprache zu übersetzen:

  1. Sie spielten Versuchsteilnehmern im MRT mehrere Stunden lang Audiomaterial vor. Dabei maßen sie die Gehirnaktivität.
  2. Ein Algorithmus wurde mit dem kombinierten Datensatz aus Stimulationsmaterial und Gehirnaktivität trainiert.
  3. Das trainierte System sollte anhand der Gehirnaktivität berechnen, woran der Versuchsteilnehmer gerade am wahrscheinlichsten dachte. Der Algorithmus ist dann auf diesen Teilnehmer trainiert und funktioniert nicht bei anderen Personen.

»Das System übersetzt dabei nicht Wort für Wort. Es erkennt vielmehr semantische Zusammenhänge. Das liegt auch daran, wie die Forschenden die Hirnaktivität gemessen haben. Sie benutzten die sogenannte funtionelle Magnetresonanztomografie. Diese zeigt die sich verändernde Durchblutung in einer bestimmten Hirnregion. Die Idee: Wo das Hirn besonders viel arbeitet, braucht es auch viel sauerstoffreiches Blut. Doch wie die einzelnen Neuronen arbeiten, lässt sich damit nicht erkennen.

Das Bild zeigt zudem keine Aufnahme des Gehirns in dem Moment, in dem es an ein konkretes Wort denkt, es zeigt die Spuren von bis zu 20 Begriffen. ›Deshalb ist ein Sprachmodell erforderlich, das im Hintergrund den semantischen Inhalt dekodiert‹, sagt Datenwissenschaftlerin Dr. Sina Mackay vom Fraunhofer-Institut für Intelligente Analyse und Informationssysteme IAIS. ›Dass das in der Studie so gut funktioniert hat, ist wirklich beeindruckend.‹«

Zu woke? Zu rassistisch? Die Antworten von ChatGPT sorgen für Kontroversen – und befeuern das Wettrennen um die «wahrheitsgetreueste» KI

Neue Züricher Zeitung, 6. Mai 2023

»Seit der Veröffentlichung von ChatGPT im November vergangenen Jahres beklagen sich Nutzer und Experten darüber, dass die Antworten des Chatbots politisch unausgewogen seien. [...]

Umso wichtiger ist es, zu verstehen, wie ein Chatbot zu seinen Aussagen kommt – und wie sich dabei zugleich rassistische und linksliberale Tendenzen einschleichen. Die KI ist darauf programmiert, Textanfänge auf eine plausible Art und Weise fortzusetzen. Dafür werden grosse Textmengen in sie eingespeist, fast das ganze Internet. Im Sprachmodell sind also viele Meinungen zugleich vertreten. Welche an die Oberfläche kommen, hängt von mehreren Faktoren ab. [...]. So gewichten chinesische Chatbots etwa die Zensurbestimmungen oft höher als die Faktenlage. Elon Musk wiederum hat angekündigt, eine eigene KI zu entwickeln, die explizit »nicht woke« sein, also nicht der vorherrschenden links-liberalen Meinung in den USA entsprechen solle. Der Arbeitstitel lautet: »Truth-GPT«.

Dr.-Ing. Joachim Köhler vom Fraunhofer IAIS arbeitet mit seinen Kollegen an einer europäischen Antwort auf ChatGPT. Ihnen geht es vor allem darum, den wichtigen Zukunftsmarkt nicht allein den USA und China zu überlassen. Zudem sollen in ihrem Modell Faktensicherheit und die europäischen Sprachen einen höheren Stellenwert im Trainingsmaterial einnehmen. In kommerziellen Modellen ist Englisch meist sehr stark vertreten, Deutsch kommt in den Daten auch noch relativ oft vor, kleinere Sprachen sehr viel weniger.«

Wie erziehe ich eine KI?

Technology Review, 1. Mai 2023

»Plagiate, diskriminierende Aussagen und Fake News: Solche Probleme treten beim Einsatz smarter Chatbots immer wieder auf. Beispiele dafür finden sich im Netz jede Menge [...]. Statistisch sind die Antworten von Bots, die auf einem solchen Wahrscheinlichkeitsansatz basieren, sinnvoll. Trotzdem können die Antworten inhaltlich falsch sein, sagt Mehdi Ali vom Fraunhofer IAIS und dem Lamarr-Institut für Maschinelles Lernen und Künstliche Intelligenz. ›Solche Sprachmodelle werden nicht explizit darauf trainiert, faktisch korrekt zu sein‹«.

Die Frage danach, wie man diese Dynamik verhindern kann, wird immer dringlicher. Wissenschaftler*innen weltweit, so auch unsere Expert*innen am Fraunhofer IAIS im Bereich KI-Absicherung und -Zertifizierung, untersuchen, wie man gegen dieses Problem vorgehen kann. Die Lösung scheint in einer neuen Art von Sprachmodell zu liegen, die statistische Ansätze wie das Maschinelle Lernen mit sogenannten wissensbasierten Ansätzen kombinieren.

»Das bedeutet, dass sie die Texte, mit denen sie ihre Sprachmodelle trainieren, vorab mit Informationen aus Datenbanken, Wissensgraphen und Dokumentensammlungen füttern. Dadurch sollen Chatbots lernen, nur solche Aussagen von sich zu geben, die sich als Fakt belegen lassen. Und sie sollen im besten Fall sogar selbst nachschlagen können. ›Dann können sie nämlich immer zeitgemäße Fakten ausgeben und sind nicht auf den Wissensstand begrenzt, der während ihres Trainings aktuell war‹, so Mehdi Ali.«

zum Artikel

April 2023

Tests für mehr Vertrauen in KI: ChatGPT und Co. bewerten und einstufen

Deutschlandfunk, 19. April 2023

Wie stellt man sicher, dass eine KI vernünftig und zuverlässig funktioniert? Um Vertrauen in die KI als wichtigem Forschungs- und Arbeitsinstrument zu bekommen, braucht es KI-Prüfroutinen. Die Fachwelt arbeitet an ebensolchen Prüfprogrammen, die den KIs auf die Finger schauen:

»Künstliche Intelligenz kommt an sehr vielen Stellen in unserem Alltagsleben zum Einsatz und übernimmt immer verantwortungsvollere Aufgaben und deswegen ist es wichtig, dass die KI ordnungsgemäß funktioniert und möglichst keine Fehler macht. KI ist anders aufgebaut als klassische Software, d.h. sie wird nicht Regel-basiert programmiert, sondern lernt Muster aus großen Datenmengen und deswegen ist es schwieriger zu validieren, ob die KI richtig funktioniert«, so Maximilian Poretschkin, Teamleiter der KI-Absicherung und -Zertifizierung am Fraunhofer IAIS.

Ein Beispiel für KI-Prüfroutinen sind die digitalen Prüfwerkzeuge, die Dr. Maximilian Poretschkin und sein Team am Fraunhofer IAIS entwickelt haben, um gezielt KI-Schwachstellen aufzuspüren. Auf der diesjährigen Hannover Messe haben er und sein Team einen Algorithmus vorgestellt, der medizinsche CT-Bilder analysiert, um verschiedene Arten von Hirnblutungen zu identifizieren.

»Hierbei ist es natürlich wichtig zu verstehen, gibt es vielleicht Schwachstellen von der KI, Situationen in denen bestimmte Krankheitsbilder nicht erkannt werden«, so der Wissenschaftler.

zum Audio-Beitrag

Zentrum für KI-Spitzenforschung: Lamarr- Institut geht in Sankt Augustin an den Start

Top Magazin Bonn, 1. April 2023

Am 1. April wurde der neue Standort des Lamarr-Instituts in Sankt Augustin feierlich eröffnet. Zugegen waren führende Akteure aus Politik, Wirtschaft und Wissenschaft, darunter NRW-Wissenschaftsministerin Ina Brandes, NRW-Ministerpräsident Hendrik Wüst, Leiter des Fraunhofer IAIS Prof. Dr. Stefan Wrobel, Direktor des Fraunhofer-Zentrums für Maschinelles Lernen Prof. Dr. Christian Bauckhage und Prof. Dr. Dr. h.c. Michael ten Hompel, Institutsleiter am Fraunhofer IML.

»An seinem neuen Standort in Sankt Augustin-Birlinghoven verknüpft das Lamarr-Institut, eines von bundesweit fünf universitären Spitzenzentren für Künstliche Intelligenz, die Expertisen der TU Dortmund und der Universität Bonn mit dem Fraunhofer-Institut. Angesichts der rasanten Entwicklung durch den Einsatz von KI werden hohe ethische Maßstäbe und die ressourcenschonende Nachhaltigkeit bei der Forschung und Entwicklung einen zentralen Schwerpunkt des neuen Instituts bilden.

Nordrhein-Westfalen solle, wie Ministerpräsident Hendrik Wüst betonte, zu einem Hotspot der KI-Forschung werden. Am Lamarr-Institut werde an Fragen zur Mobilität von morgen, innovativen Produktionsprozessen oder smarter Energieversorgung geforscht.«

März 2023

Die Roboter und das Vertrauen

Kölnische Rundschau, 25. März 2023

»Die Hochschule Bonn-Rhein-Sieg (H-BRS) widmet sich verstärkt dem Zukunftsthema Künstliche Intelligenz. Ein neues Institut beschäftigt sich dort mit Anwendungsgebieten wie der Logistik und dem Gesundheitswesen sowie der Frage, mit welchen Fähigkeiten Roboter ausgestattet sein müssen, damit sie vertrauenswürdig sind. [...]

Das neue Institut, das im Fachbereich Informatik angesiedelt wurde, soll die Expertise der Hochschule auf den Gebieten Künstliche Intelligenz und
Autonome Systeme zusammenführen und bei der ethischen Betrachtung Maßstäbe setzen. Beheimatet ist die wissenschaftliche Einrichtung auf dem Campus Sankt Augustin.

Außerdem, verspricht sich die H-BRS davon auch eine intensivere Zusammenarbeit mit anderen Forschungseinrichtungen und der Wirtschaft. Es seien Erweiterungen der bestehenden Kooperationen mit den Partnern in der Region, wie dem Fraunhofer IAIS und dem Deutschen Zentrum für Luft und Raumfahrt, geplant. Auf diese Weise wolle das Institut eine national und international vernetzte Kompetenzplattform zu den Arbeitsfeldern Künstliche Intelligenz und Autonome Systeme aufbauen.«

»Das wird alles verändern, ALLES«

Die Welt überregional, 23. März 2023

»Künstliche Intelligenz macht gerade unglaubliche Fortschritte. Seit einigen Monaten verblüfft der Chatbot ChatGPT die Welt durch die Beantwortung von Fragen zu jedwedem Thema. Die Nachfolgetechnologie GPT-4, ebenfalls von der Firma Open AI aus dem Silicon Valley, steigert diese Leistungen bis auf menschliches Maß.

Experten wie der KI-Forscher Christian Bauckhage, Lead Scientist für Maschinelles Lernen am Fraunhofer IAIS, sehen eine neue Zeit anbrechen, vergleichbar mit keinem bisherigen Einschnitt in der Geschichte der Menschheit: ›Wir erleben sozusagen die Entstehung eines neuen Wesens. Die Folgen sind in ihrer Dramatik und Tragweite kaum abschätzbar. Wir haben eine neue Zeitrechnung‹, sagt Bauckhage so fasziniert wie alarmiert.

Macht Ihnen die rasante Entwicklung der Künstlichen Intelligenz Angst?

Prof. Dr. Christian Bauckhage: ›Ich bin natürlich absolut fasziniert. Schon als Kind habe ich gedacht, das wäre doch toll, wenn man Maschinen hätte, die Menschen helfen könnten. Ich habe das dann zu meinem Beruf gemacht. Jetzt sehe ich es Realität werden, und zwar schneller, als ich erwartet habe. Die Geschwindigkeit, die wir seit 15 Jahren sehen, ist wirklich beachtlich. [...] Wir müssen uns mental freimachen, wenn wir uns fragen, was solche Systeme alles leisten werden. Wir haben wirklich eine neue Zeitrechnung, und wir müssen als Gesellschaft rasch überlegen, was das für uns alle bedeuten wird‹«.

Februar 2023

Mit KI in die Zukunft

© WDR Servicezeit

WDR Servicezeit, 28. Februar 2023

»Ob bei der Gesichtserkennung unserer Smartphones, bei Kartendiensten, in der Medizin oder beim vieldiskutierten Chat-Programm GPT, Künstliche Intelligenz begegnet uns Verbrauchern im Alltag immer häufiger und wird unsere Zukunft mitbestimmen. Doch was ist KI überhaupt und was kann sie leisten?

Dazu gibt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS Auskunft. Er ist einer der führenden Forscher auf dem KI-Gebiet und beschäftigt sich seit 40 Jahren damit.

KI, also Künstliche Intelligenz, was steckt da heute drin wenn irgendwo dieser Begriff draufklebt?

›Man programmiert eine gewisse Grundstruktur, in der aber viele Leerstellen sind, die noch eingefüllt werden müssen, damit es richtig funktioniert. Und dann programmiert man einen Mechanismus, der selbst tätig, aus Beobachtungen, aus Beispielen, diese Werte auffüllen kann und zwar genau richtig‹, so Wrobel.«

zum Mitschnitt des TV-Beitrags

Reale Science-Fiction

General Anzeiger, 20. Februar 2023

Künstliche Intelligenz (KI) und Algorithmen wie der Textgenerator ChatGPT werden immer wichtiger. Der GA hat Professor Christian Bauckhage, einer der vier Direktoren am Lamarr-Institut in Bonn sowie Wissenschaftler am Fraunhofer IAIS, als einen von drei Experten aus der Region zu diesem Thema befragt.

»›Um ChatGPT zu benutzen, muss man wissen, wie der Algorithmus funktioniert‹, lautet die erste Lektion von Professor Bauckhage.

›Im Laufe der Zeit hat der Algorithmus viele Milliarden Sätze und Wörter gelernt. Immer wurden Wörter in Sätzen ausgelassen. Aus vorhergegangenen Statistiken hat ChatGPT ausgewählt, welches Wort am besten passt‹, erklärt er. ChatGPT wisse, wann welches Wort passt, aber nicht, was es bedeute.

Bauckhage findet es faszinierend, wie gut die Künstliche Intelligenz funktioniert. ›Natürlich ist das noch nicht perfekt. Aber die Tatsache, dass man sich damit schon unterhalten kann, ist verrückt‹, so der Informatiker.«

Januar 2023

Hochschulpersonal: Stehen vor großen Veränderungen durch Chatbot

MDR, 18. Januar 2023

»Texte verfassen, Recherchen durchführen oder komplizierte Aufgaben lösen. All das kann die Software ChatGPT. Das Programm liefert Antworten auf Fragen mittels künstlicher Intelligenz. Experten sind beeindruckt von der Leistung des Chatbots und sehen sich vor großen Veränderungen in der Hochschullehre. Doch es wird auch zur Vorsicht gemahnt. [...]

Man brauche keine Aufgabe mehr stellen, die sich als Frage in ChatGPT eingeben lasse und dann eine Antwort herauskomme, die eine Eins beschere, sagt Weßels, Professorin für Wirtschaftsinformatik an der Fachhochschule Kiel die zu Künstlicher Intelligenz (KI) forscht. Sie empfiehlt allen Lehrpersonen deshalb, sich mit dem Programm zu beschäftigen. Hochschulen müssten Aufklärungsarbeit leisten, Prüfungsleistungen an die neuen Entwicklungen angepasst werden.

Fraunhofer-Institut: Stehen vor Revolution

Dass ChatGPT schon von vielen Studierenden genutzt wird, da ist sich Kratzsch sicher. Dr. Joachim Köhler vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) teilt diese Einschätzung. Für den Umgang mit der Künstlichen Intelligenz an Hochschulen empfiehlt er: ›Wir stehen hier, glaube ich, wirklich vor einer Revolution.‹ Man werde damit umgehen und lernen müssen, es sinnvoll einzusetzen. ›Man kann es nicht verbieten und hoffen, dass es keiner nutzt. Es ist zu präsent und wird in immer mehr Anwendungen Einzug erhalten‹, ist sich Dr. Joachim Köhler sicher.

Köhler warnt jedoch davor, Antworten des Chatbots einfach so zu übernehmen. Die Software sei fehleranfällig. Die Ergebnisse müssten man am Ende immer noch einmal überprüft werden – von einem echten Menschen.«

zum Artikel

»Wir erleben gerade eine zweite Welle der KI-Revolution«

Trend Report, 13. Januar 2023

»Wir sprachen mit Dr. Dirk Hecker, stellvertretender Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme (IAIS). Er ist zudem Geschäftsführer der Fraunhofer-Allianz Big Data und Künstliche Intelligenz, einem Verbund von mehr als 30 Fraunhofer-Instituten zur branchenübergreifenden Forschung und Technologieentwicklung im Bereich Big Data. Im Fokus steht dabei die Anwendbarkeit neuer Technologie für die Unternehmen am Standort und wie diese mithilfe etwa Künstlicher Intelligenz mehr Widerstandsfähigkeit im Wettbewerb gewinnen können. [...]

Was müsste jetzt unternommen werden, um die Rahmen- und Forschungsbedingungen im Kontext großer KI-Modelle in Deutschland zu verbessern?
Wir erleben gerade eine zweite Welle der KI-Revolution, die mit der Veröffentlichung von GPT-3 durch OpenAI 2020 begonnen hat. Auf Basis riesiger Datenmengen und dem Einsatz enormer Rechenkapazität und Entwicklerressourcen haben OpenAI und seine Konkurrenten große Modelle geschaffen, die bis dahin nicht für möglich gehaltene Texte, Bilder, Programme und Dialoge erzeugen. [...]

Deutschland und Europa fallen in der KI bei dieser Entwicklung hinter den USA und China zurück. [...]. Für wettbewerbsfähige große KI-Modelle in Europa müssen Ökosysteme aus Start-ups, Forschungseinrichtungen und Unternehmen langfristig gefördert werden, die wiederverwendbare europäische KI-Modelle, kontrollierte europäische Trainingsdaten und eine europäische Infrastruktur für verteiltes Training, Nachtrainieren und Nutzung möglichst offen auf- und ausbauen sowie betreiben.

Erste Ansätze dazu sind das vom BMWK geförderte OpenGPT-X-Projekt zur Entwicklung eines großen deutschen Sprachmodells und die LEAM-Initiative zum Aufbau einer großen Recheninfrastruktur für das Training von großen KI-Modellen. [...]

Wie können Sie Unternehmen dabei unterstützen, mit neuen digitalen Geschäftsmodellen in Zukunft resilienter zu agieren? Inwieweit treiben Sie die digitale Transformation in Deutschland voran?
Wir unterstützen Unternehmen dabei, KI verantwortungsvoll für innovative Lösungen oder Dienstleistungen zu nutzen und ihr Personal zu qualifizieren. Das Spektrum der Einsatzgebiete ist breit. Prädiktive Anwendungen schützen vor Gefahren, sparen Energie und Ressourcen oder verbessern die Qualität. KI ermöglicht es uns, Informationen in großen Datenmengen effizient zu erfassen und die damit verbundenen Prozesse zu erleichtern oder zu automatisieren und so dem kommenden Fachkräftemangel entgegenzuwirken.«

zum Artikel

Fraunhofer-Forscher entwickeln in Sachsen KI mit Deutsch als ›Muttersprache‹

Oiger, 9. Januar 2023

» Experten für Künstliche Intelligenz (KI) arbeiten in Sachsen an einem ambitionierten Technologieprojekt, das die digitale Souveränität Europas deutlich stärken soll: Ein 20-köpfiges Team um Dr. Nicolas Flores-Herr vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) arbeitet derzeit in den ›Universellen Werken Dresden‹ an Wissensgraphen, Dialogsystemen und einem eigenen Sprachmodell für Künstliche Intelligenzen mit Deutsch als Muttersprache – wobei die KI sogar imstande sein soll zu sächseln.

›Wasch den Seidenschal bitte kalt, liebe Waschmaschine!‹

Diese Werkzeuge sollen beispielsweise flüssige Gespräche mit Alltagsrobotern, artifiziellen Experten, ja selbst mit Haushaltsgeräten erlauben. Dialogsysteme erleichtern jetzt schon unseren Alltag und werden sich künftig noch verbessern, erklärt KI-Forscher Dr. Nicolas Flores-Herr. ›Es wäre doch schön, wenn man die Waschmaschine einfach fragen könnte, wie sie funktioniert, statt 1000 Seiten Bedienungsanleitung durchlesen zu müssen.‹ [...]

Heutige KIs sind oft englisch oder chinesisch sozialisiert

Besonders dominant in diesen Disziplinen sind bisher Google, Amazon, Meta, Alibaba sowie andere US-amerikanische und chinesische Konzerne. Europäische Unternehmen und Institute arbeiten zwar auch an vielen KI-Projekten. Dabei handelt es sich aber oft um hochspezialisierte KI-Anwendungen, die auf Basistechnogien und Trainingsdaten aus den USA aufbauen. Damit wollen sich Deutschland und Europa indes nicht abfinden und haben eine Aufholjagd in dieser Schlüsseltechnologie gestartet.«

zum Artikel

Dezember 2022

Wo Krankenhäuser auf ihrem Weg zu ›Smart Hospitals‹ stehen

aerzteblatt.de, 28. Dezember 2022

»Krankenhäuser in Deutschland können mit einem neuen Selbstbewertungsinstrument ermitteln, wo sie beim Einsatz von Künstlicher Intelligenz (KI) und damit auf ihrem Weg zu einem ›Smart Hospital‹ stehen. Der sogenannte KI-Readiness-Check wurde unter Leitung des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS zusammen mit weiteren Partnern des Projektes SmartHospital.NRW entwickelt.

Die Selbstbewertung ist kostenlos. Nach Ermittlung ihres KI-Reifegrads erhalten die Krankenhäuser erste konkrete Handlungsempfehlungen, wie sie sich Schritt für Schritt weiterentwickeln können. Hauptziel des Projekts SmartHospital.NRW ist es nach eigenen Angaben, mithilfe von KI Patientinnen und Patienten besser zu behandeln, das Krankenhauspersonal zu entlasten und medizinische Prozesse effizienter zu gestalten.

›Der KI-Readiness-Check hilft Krankenhäusern dabei, Voraussetzungen für die technische Infrastruktur festzustellen, um eigene Potenziale speziell im Hinblick für den Einsatz von KI-basierten Anwendungen zu erkennen und erste Handlungsempfehlungen abzuleiten. Die eigene KI-Reife zu kennen ist für die Weiterentwicklung zum Smart Hospital essenziell‹, erklärte Anke Diehl, Konsortialführerin des Projekts SmartHospital.NRW

zum Artikel

heise meets… So krank ist das Krankenhaus

Heise online, 14. Dezember 2022

»50.000 offene Pflegestellen, zu viele Krankenhausbetten, fehlende Digitalisierung und ein Datenschutz, der zum Tod von Patienten führen kann.

Prof. Dr. Jochen A. Werner erläutert in seinem Buch ›So krank ist das Krankenhaus‹, wo die Probleme und Herausforderungen im deutschen Gesundheitswesen lägen. Er selbst ist Ärztlicher Direktor und Vorstandsvorsitzender der Universitätsmedizin Essen und habe täglich mit den Defiziten zu kämpfen. Er beklagt, dass er im Gesundheitswesen, aus unterschiedlichsten Gründen, seit Jahrzehnten einen Stillstand beobachte. ›Langsam verlieren alle den Glauben an eine Verbesserung, obwohl wir doch gerade jetzt Vorbild für die jungen Menschen sein sollten‹, beklagt Prof. Dr. Werner. [...].

An der Universitätsmedizin Essen gehe man seit 2015 den Weg zum Smart Hospital [...]. Mittlerweile gebe es verpflichtende Veranstaltungen und Schulungen, um (neue) Mitarbeitende über das Thema Smart Hospital und die damit verbundenen Ziele zu informieren. Dabei werde immer wieder darauf hingewiesen, dass der Mensch im Mittelpunkt des Geschehens steht. Egal, ob als Patient oder Mitarbeitender. Zudem seien zahlreiche digitale Projekte umgesetzt worden, wie die elektronische Patientenakte, ein Institut für KI in der Medizin, ein Service- und Infocenter – um die Erreichbarkeit zu verbessern – und die zentrale Notaufnahme [zu digitalisieren].«

zum Artikel

November 2022

KI-Leuchtturmprojekt Secure Medical Campus

Management und Krankenhaus, 1. November 2022

»Das UKB in Kooperation mit dem Cyber Security Cluster erhält eine Förderung von bis zu 17,5 Mio. EUR für das Digitalisierungs-Projekt Innovative Secure Medical Campus UKB.

Den vorläufigen Förderbescheid hat Prof. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen, kürzlich am Universitätsklinikum Bonn (UKB) übergeben. Die Landes-Kompetenzplattform für Künstliche Intelligenz KI.NRW ist Schirmherrin des Projets und nimmt den Secure Medical Campus in ihre KI-Flagship-Initiative auf. [...]

Das Projekt hat eine Laufzeit von drei Jahren und wird vom Ministerium für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen mit einer Fördersumme von bis zu 17,5 Mio. EUR unterstützt. Innovationsminister Prof. Dr. Pinkwart: ›Das Universitätsklinikum Bonn wird das Gesundheitswesen in Nordrhein-Westfalen und ganz Deutschland als hochinnovativer Secure Medial Campus entscheidend prägen. Durch den Einsatz modernster Technologien und Digitalisierungsstrategien setzen wir innerhalb der nächsten drei Jahre die Vision einer Klinik der Zukunft in die Wirklichkeit um.‹ [...]

Nicht nur das UKB wird von der Förderung profitieren. Die Erprobung neuer digitaler Prozesse in der Krankenversorgung soll in Zukunft auch anderen Kliniken zugutekommen und entscheidend zur Modernisuerung des deutschen Gesundheitswesens beitragen. Das KI.NRW-Flagship-Projekt Innovative Secure Medical Campus UKB ist damit einzigartig in Deutschland. [...]

›Der Innovative Secure Medical Campus setzt neue Maßstäbe für die Nutzung von Künstlicher Intelligenz im Gesundheitswesen. Der Ansatz, modernste KI-Technologie von Anbeginn mit dem Thema Cyber Security und Datenschutz zu kombinieren, zeigt: NRW kann KI. Aber auch: KI ist ein Teamsport. Expertisen ermöglichen innovative Lösungen mit Strahlkraft über NRW hinaus. Wir freuen uns, das Porjekt in unserem KI-Ökosystem zu verankern und in nationalen und internationalen Netzwerken zu etablieren‹, sagt Dr. Christian Temath, Geschäftsführer KI.NRW.«

 

Weshalb auch eine KI ‚altert‘

IT & Production, 3. November 2022

»Der Einsatz von Künstlicher Intelligenz (KI) verspricht Industrieunternehmen Wettbewerbsvorteile. Doch KI-Systeme zu überwachen und an neue Voraussetzungen anzupassen, ist oft umständlich oder unterbleibt ganz. Neue Ansätze sollen das ändern.

Erst vor Kurzem hat das Fraunhofer IAIS in Zusammenarbeit mit Munich RE eine Zertifizierungsmöglichkeit für Künstliche Intelligenz geschaffen. Denn Software, die mit KI ausgestattet ist und z.B. Qualitätsprognosen auf Basis von so genannten Machine-Learning-Modellen erstellt, darf nicht nur zum Start geprüft, sondern muss permanent überwacht werden. Der Grund dafür ist ein Problem, das Betreiber oft wenig beachten, das aber mit dem zunehmenden Einsatz von KI-Software sichtbarer wird: Machine-Learning-Modelle werden mit der Zeit immer ungenauer und unzuverlässiger. Dieser Alterungsprozess wird als Model Drift bezeichnet und ist in Fachkreisen ein bekanntes Phänomen. Mit abnehmender Verlässlichkeit der KI-Modelle nimmt auch deren Nutzen ab. [...]

Der Model Drift kann negative Auswirkungen auf den Prozesserfolg [haben]. Folglich sollte auch die Qualität der eingesetzten KI-Modelle überwacht werden. Erschwerend kommt hinzu, dass diese Qualitätsprüfung (Validierung) ein mindestens ebenso komplexes Verfahren wie die Erstellung der Modelle selbst ist. Die Validierung besteht aus verschiedenen Tests, um Qualität und Güte des Modells in verschiedenen Bereichen und Aspekten zu prüfen. [...]

Die Wahl der Maßstäbe und Metriken für Erklärbarkeit und Nachvollziehbarkeit bestimmter Algorithmen und deren Validierung sind komplex und zum Teil noch Gegenstand aktueller Forschungen.«

Zum Artikel

»Alle Bausteine unserer Führungskräfteentwicklung sind maßgeschneidert«

Personalwirtschaft, 8. November 2022

»Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS setzt bei der Entwicklung von Führungskräften auf individuelle Programme. Wie genau funktioniert das?

Frau Schneider, Sie sind Leiterin der Personalentwicklung beim Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS. Wie identifizieren Sie potenzielle Führungskräfte?

Wir identifizieren sie vor allem anhand von zwei Kriterien. Die Personen müssen herausragende wissenschaftliche Expertinnen und Experten in ihren jeweiligen Fachgebieten sein. Darüber hinaus sollten sie exzellent darin sein, dieses fachliche Wissen in konkrete Lösungen für unsere Kundinnen und Kunden aus großen oder mittelständischen Unternehmen zu übersetzen. Wir suchen also Talente, die sowohl wissenschaftlich anspruchsvoll vorgehen als auch praktisch denken und an beidem Spaß haben. Aus dieser Gruppe suchen wir dann die aus, die Lust haben, zur Führungskraft ausgebildet zu werden. [...]

Wie gehen Sie konkret bei der Führungskräfteentwicklung (FKE) vor?

Unsere Führungskräfte starten von sehr unterschiedlichen Skill-Levels. Darum legen wir gemeinsam mit der Personalentwicklung, der Kandidatin oder dem Kandidaten sowie den Personalvorgesetzten einen Entwicklungsplan mit individuellen Lernzielen an. Dieser berücksichtigt das Rollenmodell, die individuelle Leistungserwartung und das aktuelle Leistungsfeedback. Dieser Entwicklungsplan wird in der Abteilung und in der FKE zur Richtschnur für Tätigkeiten und Trainingsschwerpunkte. Die Trainings, inklusive aller Rollenspiele, sind auf die Lernziele der Individuen maßgeschneidert. In 14 Modulen trainieren wir alle Führungsnachwuchskräfte gemeinsam entlang der Kern-Führungs-Skills.«

Zum Artikel

 

 

Oktober 2022

Eine Ressource wie Strom: NRW optimiert maschinelles Lernen und künstliche Intelligenz institutionell

c't - Magazin für Computer-Technik, 23. Oktober 2022

»Das Lamarr-Institut bündelt in Nordrhein-Westfalen Spitzenforschung für maschinelles Lernen und künstliche Intelligenz. Land und Bund wollen die Entwicklung intelligenter Roboter und vertrauenswürdiger KI-Systeme künftig dauerhaft finanzieren.

Wenn Roboterfußballer aus Deutschland in diesem Jahr einmal mehr überlegen das WM-Finale gewinnen oder wenn künstliche Intelligenz beginnt, Humor zu verstehen, dann waren KI-Forscher von Rhein und Ruhr, genauer von der Uni Bonn und der Technischen Universität Dortmund am Werk. Gemeinsam mit dem Fraunhofer IML (Institut für Materialfluss und Logistik) in Dortmund und dem Fraunhofer IAIS (Institut für Intelligente Analyse- und Informationssysteme) in Sankt Augustin bei Bonn bildeten sie bisher das Kompetenzzentrum Maschinelles Lernen Rhein-Ruhr (ML2R).

Bund und Land haben nun entschieden, dieses Kompetenzzentrum künftig mit einem dauerhaften, festen Budget auszustatten. Anlässlich dieser Neuerung haben die Verantwortlichen das ML2R in „Lamarr-Institut“ umbenannt. [...]

›In Zukunft werde künstliche Intelligenz für die Wirtschaft in Deutschland zu einer ebenso wichtigen Ressource wie Strom‹, sagt Stefan Wrobel.«

Zum Artikel

 

 

1, 2, 3, Erfolgserlebnis: Der Calliope mini im Informatikunterricht in der Sekundarstufe

c't - Magazin für Computer-Technik, 21. Oktober 2022

»Ursprünglich war der Calliope mini für die Grundschule gedacht. Der kleine Mikrocontrollers eignet sich aber auch sehr gut für den Unterricht ab Klasse 5, wie unser Beispiel für mehrere Unterrichtseinheiten zeigt.

Der Calliope mini ist in wenigen Minuten einsatzbereit. Das macht ihn für den Unterricht in der Schule oder fürs Experimentieren daheim so attraktiv. Außer dem Mikrocontroller selbst benötigt man nur noch ein USB-Kabel und einen Computer mit Internetzugang. Das Programmieren kann sofort beginnen – ohne zusätzliche Steckbretter, Kabel, Sensoren oder Ähnliches. [...]

Mit dem Calliope mini macht Programmieren im Schulunterricht Spaß. Durch die Blockprogrammierung in einer didaktisch sinnvoll reduzierten Programmierumgebung erreichen die Schüler schnell erste Erfolge. Da Syntaxfehler praktisch ausgeschlossen sind, können sie sich auf das Wesentliche, die Programmstrukturen, konzentrieren.

Die Erfahrung aus dem Unterricht in der Sekundarstufe zeigt: Der Calliope mini eignet sich längst nicht nur für die Grundschule. Er lässt sich – wie in diesem Artikel beschrieben – erfolgreich in den Klassenstufen 5 bis 8 einsetzen. Die Einsatzmöglichkeiten reichen aber auch darüber hinaus bis zum Informatik-Grundkurs der Sekundarstufe II.«

Zum Artikel

Künstliche Intelligenz

Spezial, 1. Oktober 2022

»Die Einsatzgebiete für künstliche Intelligenz sind extrem vielfältig. Sie reichen von Produktempfehlungen beim Online-Shopping über Sprach- oder Gesichtserkennung bis hin zu selbstfahrenden Autos. Auch in immer mehr Unternehmen ziehen KI-basierte Systeme ein - und können eine tatkräftige Unterstützung für die Beschäftigten darstellen.

KI steckt hinter der optimalen Routenplanung in Navigationssystemen, der Kommunikation mit digitalen Sprachassistenzen und Chatbots, der medizinischen Krebsdiagnostik und der Gesichtserkennung am Flughafen, dem automatisierten Sichten von Bewerbungen und der Bewilligung von Krediten, der Steuerung von Heizungs- und Lichtanlagen im Smarthome. Mit der Digitalisierung der Industrie ziehen auch in immer mehr Produktionsbereichen KI-basierte Systeme ein; im Jahr 2021 nutzte etwa jedes zehnte Unternehmen in Deutschland KI in irgendeiner Form.«

Einsatzbereiche sind u.a. in der vorausschauenden Wartung, in der Qualitätssicherung, im intelligenten Schutz vor Verletzungen, in Ergonomie-Frühwarnsystemen und in der Mensch-Roboter-Kollaboration zu sehen.

 

September 2022

Weltweit wichtige Forschungseinrichtung in Sankt Augustin
eröffnet

General-Anzeiger Bonn, 29. September 2022

»›Das Lamarr-Institut nimmt eine Schlüsselrolle in der bundesweiten KI-Strategie ein und hat eine europaweite und weltweite Ausstrahlung‹, sagte NRW-Ministerpräsident Hendrik Wüst. [...]

Künstliche Intelligenz wird in Zukunft eine immer wichtigere Rolle in der Gesellschaft einnehmen. Das Lamarr-Institut forscht zu diesem Thema und will dafür sorgen, dass auch ethische Fragen geklärt werden. Unter anderem NRW-Ministerpräsident Hendrik Wüst eröffnete das Forschungszentrum am 29. September in Sankt Augustin. [...]

[...] Die Forschung hat bereits 2018 in dem als Projekt geförderten „Kompetenzzentrum Maschinelles Lernen Rhein-Ruhr“ (ML2R) begonnen. Das Institut wird nun langfristig durch den Bund und das Land Nordrhein-Westfalen gefördert. Mit beteiligt an dem Institut ist die Technische Universität Dortmund, die Universität Bonn sowie das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) in Sankt Augustin und das Fraunhofer-Institut für Materialfluss und Logistik (IML) in Dortmund.
 
›Forschung ist unsere erste Säule. Wir wollen aber nicht nur Papier schwärzen. Wir wollen dafür sorgen, dass wir Wert für die Gesellschaft und für die Wirtschaft erzeugen‹, sagte Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme (IAIS).«

Zum Artikel

 

SmartHospital.NRW Summit: Erfolgreiche Veranstaltung für inter-
disziplinären Austausch von KI-Projekten in Krankenhäusern


MEDECON RUHR, 21. September 2022

»Das erste SmartHospital.NRW Summit am 25. August war für alle Beteiligten ein voller Erfolg. Unter der Moderation von Dr. med. Anke Diehl, CTO der Universitätsmedizin Essen und Medizinerin des Jahres 2021, und Dr. Christian Temath, Geschäftsführer von der Kompetenzplattform KI.NRW. [...]

Das erste SmartHospital.NRW-Summit hat Projektbeteiligte, Stakeholder:innen und interessiertes Fachpublikum zusammengebracht. Genau dieses interdisziplinäre Netzwerk ist notwendig, um auch zukünftige KI-Projekte in Krankenhäusern voranzutreiben. ›Ich freue mich sehr, dass ich dabei sein konnte und die Perspektive der Informationssicherheit auf KI-Projekte darstellen durfte‹, reflektiert Prof. Thomas Jäschke, Vorstand der DATATREE AG, die Veranstaltung.«

Im Fokus stand der interdisziplinäre Austausch der Teilnehmenden rund um die Themen Digitalisierung und Künstliche Intelligenz im Krankenhaus um auch zukünftige KI-Projekte in Krankenhäusern voranzutreiben.

Zum Artikel

 

»Das ist wie ein Kochrezept«

Süddeutsche Zeitung, 1. September 2022

»Lesen, Schreiben, Rechnen: Auf diese drei Kulturtechniken können sich wohl fast alle Menschen einigen. Als vierte wird nun häufig Programmieren ins Spiel gebracht [...]. Thorsten Leimbach, Leiter des Bereichs »Smart Coding and Learning« am Fraunhofer-Institut IAIS in Sankt Augustin, sagt, dass auch Menschen jenseits des Schulalters programmieren lernen können. Und das dies neue berufliche Chancen eröffne, aber auch konkret im Alltag weiterhelfe. [...]

Einen einfachen Einstieg schaffen Low-Code- oder auch No-Code-Anwendungen, broweserbasierte Prgramme die man als Website aufrugt, sowie Open Roberta, die Thorsten Leimbach am Fraunhofer-Institut IAIS mitentwickelt hat. Per Drag-and-Drop können Nutzer mit der graphischen Programmiersprache Nepo einzelne Befehlsblöcke in die richtige Reihenfolge bringen. [...] Wenn man eine Website mit der Programmiersprache HTML bauen will, braucht man Hardware, die die befehle ausführt. So zum Beispiel ein Lego-Roboter oder Mini-Computer wie ein Calliope [...].«

August 2022

Willms-Schüler lernen programmieren

Weser Kurier, Bremer Tageszeitung, Delmenhorster Kurier, 27. August 2022

 

»›Ich bin beeindruckt von dem, was ich hier heute gesehen und gehört habe‹, erklärt Bettina Stark-Watzinger zum Abschluss ihres rund zweistündigen Besuchs am Willms, bei dem sie sich über mehrere Projekte zum Thema Künstliche Intelligenz (KI) informiert hat.

Am Delmenhorster Gymnasium läuft seit dem vergangenen Jahr ein Pilotprojekt unter dem Titel »AI4Schools« mit dem Frauenhofer IAIS in Sankt Augustin. Idee dieses Projektes ist es, Oberstufenschülern einerseits wichtige Einblicke in die Schlüsseltechnologie KI und erste Programmierkenntnisse zu vermitteln, sowie andererseits eine Basis für eine gesellschaftliche Diskussion über mögliche Einsatzbereiche von KI und zukunftsfähige Berufsperspektiven aus erster Hand zu geben.

›Das Konzept ist mehrfach erfolgreich erprobt‹, zeigt sich auch Max Landefeld vom Frauenhofer IAIS zufrieden. Deshalb hat sich das Institut zum Ziel gesetzt, das Projekt an vielen weiteren Schulen in ganz Deutschland zu verstetigen. [...]. Klaas Wiggers, der als Mint-Koordinator das Projekt seitens des Willms betreut, plant gemeinsam mit dem Fraunhofer IAIS für Ende November ein Mint-EC-Camp, an dem Schulen aus ganz Deutschland teilnehmen werden. Das Delmenhorster Gymnasium ist der Gastgeber.«

KI-Zertifizierung: Der große KI-Check für jede Norm kommt

VDI Nachrichten, 26. August 2022

»Das Deutsche Institut für Normung (DIN) in Berlin will weitgehend automatisiert mit Methoden der künstlichen Intelligenz (KI bzw. AI: Artificial Intelligence) rund 34 000 Normen prüfen, und zwar darauf, ob sie KI-tauglich sind. Diese auf KI-Fähigkeit überprüften Normen sollen auf die Stärkung der über die EU geprägten Dachmarke »AI made in Europe« einzahlen. Die Berliner setzen dabei darauf, die KI-Fähigkeit von Normen mit Methoden des maschinellen Lernens zu überprüfen. Im Rahmen des Projekts wird ein Prüfverfahren erarbeitet und in ausgewählten Normenausschüssen pilotiert. Hierfür wird ein KI-Werkzeug entwickelt, das die Auswahl und Klassifikation KI-relevanter Normen beschleunigt. Bis Ende 2023 sollen die Ergebnisse vorliegen.

›Wir setzen so auf eine besonders effiziente Vorgehensweise, um das Normenwerk auf KI-Tauglichkeit zu prüfen‹, erklärt Stefan Wrobel, Professor für Informatik an der Universität Bonn und Sprecher der Fraunhofer-Allianz Big Data und Künstliche Intelligenz.«

Zum Artikel

Juli 2022

»Künstliche Intelligenz ermüdet nicht«

Automobil Produktion, 22. Juli 2022

»›In der Automobilproduktion findet KI bereits diverse Anwendungsbereiche. Wie dadurch die Qualitätskontrolle optimiert wird und warum ein Zusammenspiel aus Mensch und Maschine essenziell ist‹, erklärt Theresa Bick vom Fraunhofer IAIS und Fraunhofer CCIT.

KI-basierte Scanning-Systeme werden zunehmend demokratisiert und einfacher einsetzbar. Welche möglichen, künftigen Anwendungsbereiche sehen Sie, Frau Bick, außerhalb der Automobil-Lackiererei?

›Automotive ist ein bedeutender Anwendungsbereich - nicht nur in der Lackiererei, sondern auch bereits früher im Prozess, zum Beispiel bei der Überprüfung der rohen Karosserien. Darüber hinaus ist der Einsatz im Automotive Bereich auch für Zulieferer, zum Beispiel von Teilen der Innenausstattung oder Felgen, interessant.

Ganz allgemein gesprochen halte ich Bereiche für geeignet, in denen eine große Stückzahl mit einem hohen Qualitätsanspruch produziert wird. So lässt sich zum Beispiel auch an andere Bereiche wie Metallverarbeitung, Haushaltsgeräte oder Medizinprodukte denken.‹

Wo liegen derzeit die Grenzen von KI in der Qualitätssicherung und an welcher Stelle wird der Mensch zukünftig noch benötigt?

›Es kann in vielen Bereichen hilfreich sein, sich von der Vorstellung zu distanzieren, dass Künstliche Intelligenz den Menschen komplett ersetzen soll. Die Mitarbeitenden haben langjährige Erfahrung, die wir uns zu Nutze machen sollten. Daher sehen wir, dass insbesondere das Zusammenspiel aus menschlicher Expertise mit KI ein sehr rentables System ergibt.‹«

Zum Artikel

»Ich mochte die abstrakten Muster«

Welt am Sonntag, 3. Juli 2022

»Nach abgeschlossenem Bachelor und Master der Mathematik an den Universitäten Bonn und Köln kam Anna Schmitz über eine Karrierebörse zum Fraunhofer IAIS in St. Augustin und dessen Arbeit zur künstlichen Intelligenz (KI).

Heute befasst sie sich am Fraunhofer IAIS mit dem Bereich vertrauenswürdige KI, dazu zählt etwa Fairness: ›Manche Systeme sind aufgrund der Informationen, mit denen sie trainiert werden, voreingenommen. Da einige KI-Technologien aus Daten lernen, könnten sie diskriminierende Muster übernehmen. Das kann dazu führen, dass Menschen bei Bewerbungen, Versicherungen oder auch im Rechtssystem benachteiligt werden. [...]

Deshalb ist die Datenqualität entscheidend. Meine Aufgabe ist es konkret, Methoden und Verfahren zu entwickeln, mit deren Hilfe die Qualität und Risiken von KI beurteilt werden können. Dabei untersuche ich mathematische Möglichkeiten, die Fairness messbar machen sollen‹, so Schmitz.«

Juni 2022

Sprachassistenten sollen Pflegekräfte entlasten

Handelsblatt, 9. Juni 2022

»Vom Waschen über den Verbandswechsel bis zur Verabreichung von Medikamenten: Akribisch müssen Pflegekräfte jeden Handgriff protokollieren. Fast ein Drittel der Arbeitszeit geht Studien zufolge, für administrative Tätigkeiten verloren [...].« Sprachassistenten könnten künftig im Bereich der Pflege Abhilfe schaffen.

»›Es gibt mittlerweile viele KI-Modelle, auf die man aufsetzen kann‹, erklärt Joachim Köhler, Forscher am Fraunhofer-Institut für Intelligente Analyse und Informationssysteme IAIS. Die Forschungseinrichtung selbst bietet mit Allinga eine Software für Sprachassistenten an. […]

Grundsätzlich seien Computer inzwischen sehr gut darin, Sprache in Text umzuwandeln, so Köhler. ›Beim Textverständnis hakt es aber noch.‹ […]. [Damit Sprachassistenten als möglichst vielfältige Helfer wirken können, müssen noch einige Schritte getan werden.] ›Ein klarer Fokus auf bestimmte Aufgaben und Vokabeln ist sehr
viel leichter realisierbar‹, sagt der Experte.«

Blick in die Blackbox

K-Zeitung, 21. Juni 2022

»Wie lassen sich Unsicherheiten einer KI-Prognose bewerten und damit KI-Anwendungen vertrauenswürdig gestalten? Daran arbeitet die Kompetenzplattform KI.NRW.

Damit KI-Anwendungen künftig zum Beispiel in der Industrie 4.0 zum Einsatz kommen können, müssen ihre Funktionsweisen transparent und nachvollziehbar – und damit vertrauenwürdig – sein. Erste konkrete Absicherungsmethoden für die Gestaltung zuverlässiger KI-Systeme sowie Prüfverfahren stellt das Projekt ›Zertifizierte KI‹ der Kompetenzplattform KI.NRW auf der Hannover Messe vor. Der Demonstrator ›Uncertainty Explorer‹ zeigt, wie Unternehmen KI-Risiken künftig gut einschätzen können. Er veranschaulicht das Prinzip der Usicherheitsschätzung, mit welcher die Lücken einer KI-Analyse sichtbar werden.

›Bei hochautomatisierten KI-Entscheidungen ist es wichtig beurteilen zu können, wie sicher sich eine KI mit ihrem Ergebnis ist. Konkret muss ein autonomes Fahrzeug zum Beispiel Objekte und Menschen in seiner Umgebung zuverlässig erkennen können, damit es angemessen darauf reagieren kann‹, erklärt Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS und Konsortialleiter des Projekts.«

Mai 2022

Quantencomputing zum Ausprobieren

Markt & Technik, 20. Mai 2022

»Quantencomputing – akademische Spielerei oder rettende Technologie?

Das Fraunhofer IAIS bietet […] interessierten Unternehmen mit dem IAIS Evo Annealer die Möglichkeit zu evaluieren, ob ihre komplexen Rechenprobleme mithilfe der Quantentechnologie schneller lösbar sind. Besonders vielversprechend sind Quantentechnologien für sehr rechenintensive Aufgaben wie z. B. mathematische Probleme, die kurzfristig gelöst werden müssen oder besonders viele Variablen enthalten.

›Darunter fallen Optimierungsprobleme jeglicher Art, die bisher nicht optimal gelöst werden können oder sehr viel Zeit für die Berechnung beanspruchen. Das ist etwa der Fall bei der Routenberechnung in der Logistik, Portfolioanalysen in der Finanzbranche oder der Berechnung von Materialbedarf in der Produktion‹, erklärt Nico Piatkowski, Senior Scientist im Bereich Quantum Machine Learning am Fraunhofer IAIS.«

Menschliches Gehirn als Vorbild: Sensoren lernen Denken

ingenieur.de, 9. Mai 2022

»Intelligente Maschinen werden zunehmender Bestandteil unseres Alltages. Naheliegende Beispiele sind das autonome Fahren oder etwa moderne Roboter-Staubsauger im Haushalt. Doch auch dort, wo wir nicht direkt mit ihnen in den Kontakt kommen, sind selbstständig arbeitende Roboter zunehmend unerlässlich: Als flinke und unermüdliche Helfer in Logistikzentren oder als präzise und starke Partner in Fertigungsumgebungen.

Im Fraunhofer-Leitprojekt ›NeurOSmart‹ forscht das Fraunhofer-Institut für Photonische Mikrosysteme IPMS zusammen mit vier weiteren Instituten (ISIT, IMS, IWU, IAIS) unter Leitung des Fraunhofer ISIT gemeinsam an fortschrittlichen neuen Sensoriken. Dabei werden die Brücken zwischen Wahrnehmung und Informationsverarbeitung durch innovative Elektronik neu definiert.

Die in NeurOSmart beteiligten Fraunhofer-Forscherinnen und Forscher setzen auf einen neuromorphen In-Memory-Beschleuniger, der auf den jeweiligen Sensor maßgeschneidert wird. Als Vorbild für die zu entwickelnde Elektronik dient das menschliche Gehirn [...].

›Diese Art der Datenverarbeitung, also des Denkens, wird durch eine neuartige analoge Computer-Speichertechnologie realisiert, die zudem in der Lage ist, Rechenoperationen durchzuführen, wenn Daten in dem System neu erfasst werden‹, erläutert der ISIT-Wissenschaftler und Projektleiter Dr. Michael Mensing [...].«

zum Artikel

Neues KI.NRW-Flagship: Universitätsklinikum Bonn initiiert »Innovative Secure Medical Campus«

Das Krankenhaus, 1. Mai 2022

»Neues KI.NRW-Flagship: Universitätsklinikum Bonn initiiert ›Innovative Secure Medical Campus‹

Das Universitätsklinikum Bonn (UKB) in Kooperation mit dem Cyber Security Cluster erhält eine Förderung von bis zu 17,5 Mio. EUR für das in Deutschland einzigartige Digitalisierungsprojekt ›Innovative Secure Medical Campus UKB‹. Das Projekt hat eine Laufzeit von drei Jahren und wird vom Ministerium für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen unterstützt.

Prof. Ulrike Attenberger, Direktorin der Klinik für Diagnostische und Interventionelle Radiologie am UKB und Leiterin des Projektes, hat deswegen zusammen mit dem Direktor der chirurgischen Klinik des UKB, Prof. Jörg Kalff, sowie dem Cyber Security Cluster ein innovatives Digitalisierungskonzept für das UKB erarbeitet.

›Unter der Nutzung modernster Technologien wie 5G, Künstliche Intelligenz und OP-Robotik soll das UKB als Innovative Secure Medical Campus Vorreiter für eine sichere vollumfängliche Digitalisierungslösung, bei der die Diagnostik und Behandlung inklusive Robotic Surgery sowie die allgemeinen Prozesse in Kliniken optimiert werden‹, erläutert Prof. Attenberger.«

April 2022

Neue Technologien: Die Bankenwelt steht noch ganz am Anfang der Reise

KI NOTE, 20. April 2022

»Künstliche Intelligenz (KI), Machine Learning (ML), Data Science: Wenn es um neue Technologien geht, befindet sich die Bankenwelt offenbar immer noch ganz am Anfang ihres Wegs. Während Firmen wie Amazon und Google Data Science quasi in ihrer DNA hätten, müssten die Kreditinstitute sich erst noch dahin entwickeln, so der Datenspezialist Torsten Nahm. [...]

Dr. Georg Fuchs, der das Geschäftsfeld Big Data Analytics & Intelligence am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS leitet, wies auf die gewachsene gesellschaftliche Bedeutung der KI hin. Selbst die Boulevardpresse nehme sich des Themas immer häufiger an. Kaum ein relevanter gesellschaftlicher oder wirtschaftlicher Bereich komme an der Thematik noch vorbei. Doch worum handelt es sich bei der Technologie genau? Wie kann man sich ihr begrifflich annähern? Dr. Fuchs verwies auf eine Definition des Computerwissenschaftlers John McCarthy, der 1955 eine allgemeine Definition vornahm. Demnach ist es das Ziel der Künstlichen Intelligenz, Maschinen zu entwickeln, die sich verhalten, als verfügten sie über Intelligenz.

Fuchs machte darauf aufmerksam, dass man zwischen KI, Machine Learning und Deep Learning (DL) fein unterscheiden müsse. KI sei eine Technologie, mit der ein Computer intelligentes, menschliches Verhalten nachahmen könne. Im Kontext von ML analysierten selbstlernende Algorithmen und Computerprogramme Datensätze und würden Muster und Gesetzmäßigkeiten erkennen, ohne dafür explizit programmiert zu sein. Deep Learning wiederum beschreibe die Umsetzung eines maschinellen Lernverfahrens in Form eines künstlichen neuronalen Netzes. Die Erzeugung der relevanten Merkmale für das Lernen erfolgt demnach selbsttätig. [...]«

Zum Artikel

Expertenumfrage: KI in der Fertigung

Digital Manufacturing, 14. April 2022

»Systeme, die auf künstlicher Intelligenz basieren, sind schon heute in der Lage, viele Aufgaben schneller und zuverlässiger zu erledigen als der Mensch.

KI ist deshalb einer der wichtigsten Motoren für die digitale Transformation und eine wichtige Schlüsseltechnologie für die Smart Factory. Wie weit KI in der Fertigung bereits vorgedrungen ist, erläutert in diesem Beitrag unter anderem Gunar Ernis, Geschäftsfeldleiter Industrial Analytics am Fraunhofer IAIS.

Die Fragen an die KI-Expert*innen lauten:

  1. KI-Anwendungen für den industriellen Einsatz sind häufig noch ein Forschungsthema und werden hauptsächlich in Demonstratoren und KI-Laboren gezeigt. Wie weit sind industrielle KI-Anwendungen bereits in die Praxis vorgestoßen?
  2. Bitte nennen Sie uns ein Beispiel für einen erfolgreichen KI-Einsatz in der Fertigungsindustrie!
  3. Was sollten mittelständische Fertigungsunternehmen beachten, wenn sie sich mit dem Thema KI beschäftigen wollen oder den Einsatz von KI-Lösungen planen?«

Zum Artikel

Fit für den Sprung ins Quantenzeitalter mit dem »IAIS Evo Annealer«

Innovations Report, 07. April 2022

»Bereit für Quantentechnologien: Das Fraunhofer IAIS unterstützt Unternehmen dabei, sich auf die Herausforderungen und den Wandel ins Quantenzeitalter vorzubereiten. Dafür haben die Wissenschaftler*innen den »IAIS Evo Annealer« entwickelt, mit dem Unternehmen z. B. aus dem Bereich der Logistik, der Finanzbranche oder Produktion bereits heute das Potenzial von Quantentechnologien nutzen können, ohne auf einen Quantencomputer zugreifen zu müssen.

[...] Besonders vielversprechend sind Quantentechnologien für sehr rechenintensive Aufgaben, wie z. B. mathematische Probleme, die kurzfristig gelöst werden müssen oder besonders viele Variablen enthalten. ›Darunter fallen Optimierungsprobleme jeglicher Art, die bisher nicht optimal gelöst werden können oder sehr viel Zeit für die Berechnung beanspruchen. Das ist etwa der Fall bei der Routenberechnung in der Logistik, Portfolioanalysen in der Finanzbranche oder der Berechnung von Materialbedarf in der Produktion‹, erklärt Piatkowski. Insbesondere auch für die Künstliche Intelligenz (KI) sehen die Wissenschaftler*innen viel Potenzial im Quantencomputing. Teil ihrer Forschung am Fraunhofer IAIS besteht aktuell darin, die Technologie mithilfe von Quantencomputern von D-Wave und IBM für Maschinelles Lernen und KI nutzbar zu machen. [...]«

Zum Artikel

März 2022

Die KI-Backstube Pionierbetriebe zeigen, wie der Einsatz von Künstlicher Intelligenz im Mittelstand gelingt

Handelsblatt, 22. März 2022

»Bei Brötchen klappt es gut. Aber wie viele Torten morgen verkauft werden? Da wird es schon kniffliger. Das hat Jan Philipp Gresens in den vergangenen Tagen über seine Künstliche Intelligenz gelernt. Gresens ist einer von drei Geschäftsführern der Bäckereikette Ruch. Zusammen mit dem Kölner Start-up Foodforecast hat er im Februar eine Künstliche Intelligenz (KI) eingeführt. [...]«

Im Jahr 2018 rief die Bundesregierung die »Strategie Künstliche Intelligenz« aus. Die große Koalition verfolgte mit der Strategie den Plan, KI-Fachkräfte auszubilden oder anzulocken, eine modernere Recheninfrastruktur und zugängliche Datenpools bereitzustellen, sowie Forschung und betriebliche Praxis enger zu verzahnen – insbesondere im Mittelstand. Um »Transfer- und Einsatzhemmnisse« abzubauen verstärkte sich die KI-Förderung auf insgesamt fünf Milliarden Euro. Jedoch lediglich 6 Prozent der befragten Unternehmen nutzen KI, 22 Prozent können es sich vorstellen.

KI im Mittelstand führt ein wahres Schattendasein. Gründe dafür gibt es viele. Es fehlt an Fachkräften, Rechenkapazitäten und Investitionen. Darüber hinaus scheitern viele Ansätze daran, dass Unternehmensprozesse noch nicht digitalisiert sind.

»[...] Dirk Hecker, stellvertretender Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, rät vor dem Start zum Austausch mit Firmen, die schon KI-Erfahrung gesammelt haben. Man solle nicht mit dem methodisch komplexesten Projekt beginnen und genau abwägen, ob es sich lohnt, die KI selbst zu entwickeln oder einzukaufen [...]« als erste Maßnahme helfe der Erfahrungsaustausch aber enorm.

KI in Sprachassistenten – Wie Forschungen der Fraunhofer-Gesellschaft unseren Alltag verändern – Ein Interview mit Dr. Dirk Hecker, stellvertretender Institutsleiter des Fraunhofer IAIS

Diplomatisches Magazin, 15. März 2022

»›Mit einem ähnlichen Elan, wie einst die deutsche Ingenieurskunst als Weltmarke etabliert wurde, kann jetzt das Neuland der datengetriebenen Dienstleistungen und Geschäftsmodelle aktiv gestaltet werden. Die Vision: Präzise Hochleistungssensorik und leistungsstarke Maschinen werden mit intelligenten KI-Systemen ›made in Germany‹ kombiniert und weltweit exportiert. Wir haben die Chance, bestehende Märkte zu stärken und neue aufzubauen. Dafür müssen wir die Schlüsseltechnologie KI beherrschen, Fachkräfte ausbilden, attraktive Angebote für KI-Forscherinnen und -Forscher anbieten und auch immer wieder mutig sein, bestehende Prozesse neu zu denken.‹ – Dr. Dirk Hecker.

Im Interview mit Diplomatisches Magazin wirft Dr. Dirk Hecker, stellvertretender Institutsleiter des Fraunhofer IAIS, einen Blick auf den Status Quo von KI in Deutschland und Europa. Der KI-Experte spricht darüber, wo die Potenziale für die deutsche und europäische Wirtschaft liegen, welche Kompetenzen und Anwendungen es im Bereich Künstliche Intelligenz bereits gibt und was noch zu tun ist, um Digitale Souveränität und Unabhängigkeit in Europa zu gewährleisten.«

Zum Artikel

Mit KI Oberflächen intelligent prüfen

mo Magazin für Oberflächentechnik, März 2022

»Modular, präzise und schnell: Das Damage-Detection-System für reflektierende Oberflächen des Fraunhofer IAIS zeigt das Potenzial Künstlicher Intelligenz für die visuelle Qualitätskontrolle auf – ein wichtiger Schritt in der Produktion, um optische Mängel wie Kratzer, Lackfehler oder Staubeinschlüsse möglichst frühzeitig zu erkennen. [...]

Als eines der führenden Forschungsinstitute im Bereich Künstliche Intelligenz in Europa möchte das Fraunhofer IAIS die Qualitätsprüfung von reflektierenden Oberflächen durch den Einsatz von KI verbessern. Unter Leitung von Dr. Theresa Bick hat ein Forscherteam dafür ein modulares System entwickelt, welches komplett automatisiert Qualitätsmängel wie zum Beispiel Unregelmäßigkeiten oder Beschädigungen auf glänzenden oder diffus reflektierenden Oberflächen identifizieren kann. Dabei knüpft die Technologie an ein bereits etabliertes Bilderkennungsverfahren an, die Deflektometrie. [...] Die intelligenten Algorithmen sind es [...] die das Damage-Detection-System erfolgreich machen. Denn trotz umfangreicher Leistung benötigt das modulare System keine anspruchsvolle Technik. Mittlerweile läuft das gesamte Setup samt KI-Modul sowohl auf leistungsstarken Rechnern wie auch auf Single Board-Computern zuverlässig. [...]« Derzeit können Schäden einer Größe von 0,1 Millimeter auf einem Meter Baugröße erkannt werden.  

Februar 2022

Wie werden sich Quantentechnologien auf die Gesellschaft auswirken?

die-debatte.org, 16. Februar 2022

Wie werden sich Quantentechnologien auf die Gesellschaft auswirken? Und wo stehen wir aktuell? Auf der Debattenplattform »Die Debatte« von Wissenschaft im Dialog und der Technische Universität Braunschweig wirft IAIS-Lead Scientist Prof. Dr. Christian Bauckhage einen Blick in unsere Zukunft mit Quantentechnologien.

Quantencomputer gelten als entscheidende Schlüsseltechnologie des 21. Jahrhunderts. Mit stolzen zwei Milliarden Euro fördert der Bund bis 2026
deshalb den Bau eines wettbewerbsfähigen Quantencomputers. Ziel ist, dass in Deutschland ein solcher Quantencomputer mit mindestens »100 individuell steuerbaren Qubits« gebaut wird, wie es im Förderziel des Programms »Quantencomputer Demonstrationsaufbauten« heißt.

Prof. Dr. Christian Bauckhage sieht das Potenzial von Quantencomputern vor allem in Zusammenhang mit künstlicher Intelligenz: »Die informatischen Methoden, die wir heute benutzen, um eine künstliche Intelligenz zu trainieren sind extrem rechenintensiv. Wenn wir hierfür einen Quantencomputer nutzen könnten, könnte das tolle Möglichkeiten für die künstliche Intelligenz schaffen.«

Zum Artikel

Neue KI-Verfahren in der Produktion: Selbstlernende Steuerungs-Software auf KI-Basis

elektroniknet.de, 15. Februar 2022

Drei Partner aus Wirtschaft und Wissenschaft entwickeln gemeinsam eine autonome, mittels KI selbstlernende Steuerungssoftware für
Produktionsanlagen.

Im Rahmen des vom Land Hessen geförderten Projekts »KISPo« soll eine autonome, mittels KI selbstlernende Steuerungssoftware für Produktionsanlagen entstehen, wie sie etwa bei der Herstellung von Komponenten für Windenergieanlagen oder Elektromotoren zum Einsatz kommen.

Eine intelligente Steuerungssoftware, die auf Machine Learning oder Reinforcement Learning beruht, ist für solche komplexen Anlagen bislang nicht auf dem Markt – ein Manko, das sowohl vom Branchenverband VDMA als auch von wissenschaftlicher Seite beklagt wird. Eine Studie der Fraunhofer-Gesellschaft zu Machine Learning kam 2018 zu dem Ergebnis, dass eine »stärkere und schnellere anwendungsnahe Umsetzung von KI in konkrete Produkt-, Prozess- und Dienstleistungsinnovationen« vonnöten sei, um den Wirtschaftsstandort Deutschland auf Dauer konkurrenzfähig zu halten.

Zum Artikel

KI im Alltag: Anwendungsfeder für
Künstliche Intelligenz

bigdata-insider.de, 10. Februar 2022

Die Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen KI.NRW startet die interaktive Explorationsplattform »KI.Welten« mit dem Ziel, einen umfassenden Überblick über die Einsatzmöglichkeiten für KI im privaten und beruflichen Sektor zu bekommen.

Binnen weniger Klicks lernen Interessierte auf der virtuellen Entdeckungstour, wo und wie KI zum Einsatz kommen kann. Über ein browserbasiertes Tool können die Anwender*innen  verschiedene Themen und KI-Schwerpunkte entdecken. Die »KI.Welten« dienen vor allem als Impuls- und Ideengeber für den Mittelstand, als Lernumgebung für den Einsatz in Schulen, Universitäten und anderen Bildungseinrichtungen oder als digitale Erkundungslandschaft für neugierige Technikfans.

Die KI.Welten stehen kostenfrei bereit und werden kontinuierlich um weitere Themeninseln ergänzt.

Zum Artikel

Januar 2022

Durchblick dank KI

Handelsblatt, 27. Januar 2022

Sind Roboter die besseren Wirtschaftsprüfer? Noch kann diese Frage von den Chefs der großen Prüfungsgesellschaften mit einem klaren Nein beantwortet werden, doch bereits jetzt wird intensiv an der nächsten Revolution in der Prüfung von Bilanzen gearbeitet.

»Künstliche Intelligenz, Softwareroboter und großflächige Datenanalysen sollen die Prüfung schneller, besser und sicherer machen.« Seit dem Skandal um Wirecard blickt die Öffentlichkeit mit Argusaugen auf die Arbeit von Wirtschaftsprüfenden, mit der neuen Digitaltechnologie kommt man dem Bedürfnis nach mehr Qualität und Sicherheit nach und wird darüber hinaus noch Herr der immer größer werdenden Datenmengen. »[...] PwC etwa entwickelt gemeinsam mit dem Fraunhofer-Institut eigene digitale Prüfungstools. [...] Die ›Big Four‹ erwarten, dass sie im Zuge der Digitalisierung nicht weniger Experten brauchen – aber welche mit anderen Fähigkeiten.« Daher würden in den kommenden Jahren auch Absolventen technischer Studienfächer, wie Data Scientists in den Fokus der Unternehmen rücken.

Internetseite klärt über Künstliche Intelligenz auf

t-online.de, 25. Januar 2022

»[...] Die ›Kompetenzplattform KI.NRW‹ hat ihre interaktive Lernplattform ›KI.Welten‹ gestartet. Damit können Nutzer die Einsatzmöglichkeiten der Technologie kennenlernen. Zur Zielgruppe des Dienstes gehören nach eigenen Angaben Bildungseinrichtungen und ›neugierige Technikfans‹. Für mittelständische Unternehmen soll ›KI.Welten‹ als Ideen-Plattform dienen.

Christian Temath, Geschäftsführer von ›KI.NRW‹: ›Studien haben gezeigt, dass immer mehr Menschen verstehen, was KI ist. Bei der Frage, wo KI-Systeme genau zum Einsatz kommen können, fühlen sich aber noch nicht alle gut abgeholt.‹ Genau da setze ›KI.Welten‹ an, indem veranschaulicht werde, dass KI bereits allgegenwärtiger Teil unseres Alltags sei. [...]«

 

Zum Artikel

OpenGPT-X: Europäisches KI-Sprachmodell startet durch mit 15 Millionen Euro

heise.de, 21. Januar 2022

Ein Konsortium bestehend aus zehn deutschen Organisationen aus Wirtschaft, Wissenschaft und Medien verfolgt das  Ziel, ein großes KI-Sprachmodell für Europa zu entwickeln, jetzt erfolgte der Startschuss für das Projekt OpenGPT-X. Laut den Projektverantwortlichen liegt besonderer Wert auf der Berücksichtigung europäischer Kulturkontexte, europäischer Werte und Sprachenvielfalt, die in den großen KI-Modellen aus den USA oder aus China wie insbesondere GPT-3 und Wu Dao 2.0 zu wenig Gewicht haben.

»[...] Das Anliegen eines großen europäischen KI-Sprachmodells ist dabei von gesellschaftlicher Relevanz, da es beim Einsatz von KI-Schlüsseltechnologie mit Blick auf eine bevorstehende technologische Disruption um die digitale Souveränität und wirtschaftliche Tragfähigkeit Europas geht, wie Dr. Nicolas Flores-Herr vom Fraunhofer IAIS als Projektleiter betont. OpenGPT-X ist Teil der Gaia-X-Initiative zum Aufbau eines KI-Sprachmodells für Europa und hatte 2021 deren Förderwettbewerb gewonnen. Auch Datenschutz soll im Projektrahmen eine größere Rolle spielen. [...]«

 

Zum Artikel

Archiv

Medienspiegel 2021

Medienspiegel 2020

Medienspiegel 2019

Medienspiegel 2018

Medienspiegel 2017

Medienspiegel 2016

Medienspiegel 2015

Medienspiegel 2014

Medienspiegel 2013