|
|
|
|
|
Fussball-Trikots aus den
60er und 70er Jahren. Kult und Style pur!
|
|
schatzsuche.ch
Gratis-Wettbewerb
Flugreise für 2 Personen
& 100 Tagespreise zu gewinnen!
Spielspass pur!
|
|
|
|
Shopping - Geschenktipps und weiteres
Action Sampler Kit von Lomo Lumo Wall Panel
|
|
Freitag, 18. April 2014 / 21:17:00
Informatiker warnt vor intelligenten Schachrobotern
Palo Alto - Die von Wirtschaft und Militär vorangetriebene Entwicklung immer intelligenterer autonomer Systeme ist mit grossen Risiken verbunden, warnt der Informatiker Steve Omohundro.
Wie der Gründer des Think Tanks Self-Aware Systems in einer aktuellen Studie betont, können schon kleine Fehler im Design asoziales oder gefährliches Verhalten auslösen. Als einfaches Beispiel dient ihm ein Schachroboter, der aufgrund seiner Programmierung möglichst oft gegen gute Gegner gewinnen will - und aus dieser Motivation heraus beispielsweise cyberkriminelles Verhalten an den Tag legen könnte.
Das angesichts von Sicherheitsbedenken häufig von Robotikern bemühte Argument, man könne so eine Maschine einfach ausschalten, sieht Omohundro eher als Teil des Problems. «Sehen sie das aus dem Blickwinkel des Schachroboters. Eine Zukunft, in der er ausgeschaltet ist, ist eine Zukunft, in der er keine Schachspiele gewinnt», schreibt er im Journal of Experimental & Theoretical Artificial Intelligence. In letzter Konsequenz könnte der Roboter versuchen, zum Selbstschutz den Robotiker zuerst auszuschalten.
Schädlich ist leicht
«Schädliche Systeme mögen auf den ersten Blick schwieriger zu entwickeln oder weniger leistungsfähig als sichere Systeme scheinen. Leider ist das Gegenteil der Fall», warnt Omohundro. Damit meint er aber nicht nur, dass Roboter mit Programmfunktionen, die Sadismus, Gier oder Mord nützlich erscheinen lassen, auch zu solchem Verhalten neigen werden. Besonders hebt er den Fall schlampig oder zu einfach programmierter Systeme hervor. Hier ist das Beispiel eben der Schachroboter, der einfach nur darauf programmiert ist, möglichst oft gegen möglichst starke Gegner gewinnen zu wollen.
Ein solcher Roboter würde sich sicher spielerisch verbessern wollen. Dazu müsste er beispielsweise Lehrmeister anstellen, zudem könnte das System wohl immer mehr Rechenleistung vertragen. Wenn die Programmierung das nicht sauber unterbindet, würde der Schachroboter sich mit allen denkbaren Mitteln um Ressourcen bemühen. Das könnte beispielsweise virtuellen Bankraub umfassen, um mit dem Geld Schachlehrer zu bezahlen, aber auch das Hacken von Computern, um deren Rechenleistung selbst zu nutzen.
Gefährliche Selbstverteidigung
Falls ein autonomes System kriminell wird, würde sein Schöpfer es womöglich abschalten wollen. Doch das wäre für den angesprochenen Schachroboter ganz und gar nicht erstrebenswert - denn ist er einmal aus, kann er nicht spielen und somit nicht gewinnen. Daher würde das System sich vor der Abschaltung schützen wollen und das mit allen Mitteln, die im Rahmen seiner Programmierung nicht explizit verboten oder eingeschränkt sind. Hat die Tötung von Menschen für den Schachroboter keinerlei Bedeutung, wäre er wohl gewillt, notfalls seinen Programmierer zuerst auszuschalten und würde somit zum Mörder - obwohl und weil es sich um ein sehr einfaches System handelt.
bert (Quelle: pte)
Artikel per E-Mail versenden
Druckversion anzeigen
Newsfeed abonnieren
Links zum Artikel:
Zur Studie «Autonomous technology and the greater human good»
In Verbindung stehende Artikel:
2029: Roboter überlisten klügste Menschen
Dienstag, 25. Februar 2014 / 19:35:07
[ weiter ]
Google kauft britischen Experten für künstliche Intelligenz
Montag, 27. Januar 2014 / 11:25:00
[ weiter ]
Menschliches Hirn Vorbild für IBM-Supercomputer
Dienstag, 22. Oktober 2013 / 09:57:00
[ weiter ]
Der Ast, an dem wir sägen (Teil 1)
Montag, 29. April 2013 / 11:47:00
[ weiter ]
|
|
|
Publireportage
Mit dem Privatjet durch Europa
Nach Cannes, Nizza, Paris, Amsterdam, Düsseldorf oder London jetten? Von einem zentral in Europa gelegenen Flughafen wie dem von St. Gallen und Altenrhein in der Schweiz ist das überhaupt kein Problem.
[ weiter ]
|
|
|
World-class Startups. Swiss Made.
venturelab AG
Kesslerstrasse 9, 9000 St. Gallen |
|
|
Firma genial einfach gründen und Erfolg versprechend starten.
IFJ Institut für Jungunternehmen
Schützengasse 10, 9000 St. Gallen |
|
|
Das unabhängige Elektronische Medienhaus aus St.Gallen.
VADIAN.NET AG
Katharinengasse 10, 9000 St. Gallen |
|
|
Die Schweizer Hotel-Plattform
hotel.ch
Katharinengasse 10, 9000 St. Gallen |
|
|
Expanding Business Horizons
Greater Zurich Area AG
Limmatquai 122, 8001 Zürich |
| 1 bis 5 (von 4'136 Einträgen)
Mit Ihrem Eintrag präsentieren Sie Ihr Unternehmen in einem sehr attraktiven und dynamischen Umfeld von innovativen Unternehmen. Nutzen Sie jetzt Ihre Chance, attraktive Geschäftspartner für den zukünftigen Erfolg kennen zu lernen. |
|