Algorithmen beeinflussen jeden Tag unser Leben. Unentdeckt oder durch aktive Eingriffe testen sie für uns Menschen Entscheidungen oder bereiten diese vor. So verhindern Bremsassistenten Auffahrunfälle im Straßenverkehr, automatische Ladesysteme machen den Flugverkehr bei jedem Wetter sicher und vollautomatisierte Insulinpumpen erleichtern das Leben von Diabetikern enorm. Airbag-Systeme haben mit ihren blitzschnell getroffenen Entscheidungen schon zehntausende Menschenleben gerettet.
Algorithmen in autonomen Systemen sind bereits heute dem Menschen überlegen und "handeln" besser, als er es je könnte. Ihre Reaktionsgeschwindigkeit ist um mehrere Größenordnungen höher, sie übermüden nicht und lassen sich nicht durch Einflüsse wie Alkohol oder Gefühlslagen ablenken. Sie erkennen Gefahrensituationen zuverlässiger und kommunizieren untereinander effektiver.
Durch Abstellen des "Fehlerfaktors" Mensch könnten jährlich tausende Leben gerettet werden. So zeigt die Jahresstatistik 2014 des Medizinischen Dienstes der Krankenkassen, dass nur 0,5% der Behandlungsfehler auf eine Fehlfunktion eines Medizinproduktes zurückzuführen sind. Doch auch Algorithmen sind menschengemacht. Die sichere und fehlerfreie Funktion autonomer Systeme stellt höchste Anforderungen an Ingenieure und Entwicklungsprozesse. Mit intelligenter werdenden Systemen müssen sich auch die F&E-Prozesse weiterentwickeln. Ein Fehler in der Entwicklung wirkt sich auf alle resultierenden Produkte aus. "Happy Engineering" kann die geforderte Komplexität längst nicht mehr zuverlässig abbilden. Die Lösung: Klassisches Entwicklertum erfindet sich selbst neu und leitet ein Umdenken und -handeln bei allen Beteiligten ein.
Werden aktuelle Entwicklungsprozesse den steigenden Anforderungen gerecht?
Die zunehmende Softwareinfizierung aller Technologiebranchen erfordert Anpassungen in den klassischen Entwicklungsprozessen. Die Komplexität der Produkte erfordert parallel zum reinen Engineering eine Reihe von Stützprozessen in einem bisher unbekannten Maß. Daraus ergeben sich gänzlich neue Organisationsstrukturen. Formale Instanzen wie Qualitäts- oder Safety-Management erhalten zunehmend Einfluss und mindern die Effizienz. Entwicklungsumfelder tendieren zu einer bewusst kritischen Kultur.
Welche Fähigkeiten benötigen die Entwickler autonomer Systeme?
Entwickler nutzen all ihr Wissen, ihre Erfahrungen und ihr Verständnis eines Problems und schaffen damit Lösungen. Diese Lösungen sind häufig Algorithmen, die im ausentwickelten System im Sinne des Entwicklers handeln. Der Algorithmus ist also nur so schlau wie der Entwickler oder das Entwicklerteam. Fehleinschätzungen, falsch implementierte Logiker oder generelles menschliches Unvermögen fließen so tausendfach in ein Produkt ein. Die Auswirkungen sind oft sehr spät sichtbar und häufig nicht zurückverfolgen. Zudem müssen ethische Entscheidungen abgebildet und getroffen werden, welche über Leben und Tod (bspw. in einem Autounfall) entscheiden. Der moderne Entwickler findet sich zunehmend in einem Umfeld von Abstimmung, Kommunikation und Planung wieder. Durch die zunehmende Formalisierung von Entwicklungsprozessen sinkt der Anteil der produktiven Arbeit. Entscheidungen mit Auswirkungen weit über das Blickfeld des Entwicklers hinaus müssen regelmäßig getroffen werden. Die Produkthaftung übt zusätzlichen Druck auf die Organisation und den Einzelnen aus.
Welche Risiken ergeben sich aus der Entwicklung autonomer Systeme und wie kann diesen begegnet werden?
Functional Safety und Cyber Security gewinnen zunehmend an Bedeutung: Die entwickelten Systeme dürfen keine Gefahr für die Umwelt darstellen. Andersherum darf die Umwelt nicht in der Lage sein, die Systeme und Produkte zu gefährden. Die missbräuchliche Nutzung eines Algorithmus/dessen Funktionalität, z.B. in autonomen Systemen birgt die Gefahr der Fremd- und Fehlsteuerung mit schwer abzuschätzenden oder zu beziffernden Folgen für Menschen und die Gesellschaft. Nur ein auf diese Gefahren "achtender" Entwicklungsprozess mit klar definierten Rollen und Kontrollinstanzen kann das Risiko minimieren.
Das ReCap und die Zusammenfassung können Sie bequem als PDF hier herunterladen:
http://innovationstag.invensity.com/wp-content/uploads/2017/08/INV_COD_InnovationDay16_ReCap.pdf