Diese Website verwendet wohlschmeckende Cookies. Mit der Nutzung stimmen Sie der Speicherung zu.















Neueste Artikel

Gewaltige Gamer
Kleine Displays größer
mehr...








Weihnachts-Magazin 2017


Aktuelle Highlights

Fiat 500l



Querverweise
Lotto 6 aus 45

 
player.at 1game Spiele
Aktuell  19.04.2014 (Archiv)

Schach macht Computer gefährlicher

Die von Wirtschaft und Militär vorangetriebene Entwicklung immer intelligenterer autonomer Systeme ist mit großen Risiken verbunden, warnt der Informatiker Steve Omohundro.

Wie der Gründer des Think Tanks Self-Aware Systems in einer aktuellen Studie betont, können schon kleine Fehler im Design asoziales oder gefährliches Verhalten auslösen. Als einfaches Beispiel dient ihm ein Schachroboter, der aufgrund seiner Programmierung möglichst oft gegen gute Gegner gewinnen will - und aus dieser Motivation heraus beispielsweise cyberkriminelles Verhalten an den Tag legen könnte.

Das angesichts von Sicherheitsbedenken häufig von Robotikern bemühte Argument, man könne so eine Maschine einfach ausschalten, sieht Omohundro eher als Teil des Problems. 'Sehen sie das aus dem Blickwinkel des Schachroboters. Eine Zukunft, in der er ausgeschaltet ist, ist eine Zukunft, in der er keine Schachspiele gewinnt', schreibt er im Journal of Experimental & Theoretical Artificial Intelligence. In letzter Konsequenz könnte der Roboter versuchen, zum Selbstschutz den Robotiker zuerst auszuschalten.

'Schädliche Systeme mögen auf den ersten Blick schwieriger zu entwickeln oder weniger leistungsfähig als sichere Systeme scheinen. Leider ist das Gegenteil der Fall', warnt Omohundro. Damit meint er aber nicht nur, dass Roboter mit Programmfunktionen, die Sadismus, Gier oder Mord nützlich erscheinen lassen, auch zu solchem Verhalten neigen werden. Besonders hebt er den Fall schlampig oder zu einfach programmierter Systeme hervor. Hier ist das Beispiel eben der Schachroboter, der einfach nur darauf programmiert ist, möglichst oft gegen möglichst starke Gegner gewinnen zu wollen.

Selbstverteidigung gelernt

Ein solcher Roboter würde sich sicher spielerisch verbessern wollen. Dazu müsste er beispielsweise Lehrmeister anstellen, zudem könnte das System wohl immer mehr Rechenleistung vertragen. Wenn die Programmierung das nicht sauber unterbindet, würde der Schachroboter sich mit allen denkbaren Mitteln um Ressourcen bemühen. Das könnte beispielsweise virtuellen Bankraub umfassen, um mit dem Geld Schachlehrer zu bezahlen, aber auch das Hacken von Computern, um deren Rechenleistung selbst zu nutzen.

Falls ein autonomes System kriminell wird, würde sein Schöpfer es womöglich abschalten wollen. Doch das wäre für den angesprochenen Schachroboter ganz und gar nicht erstrebenswert - denn ist er einmal aus, kann er nicht spielen und somit nicht gewinnen. Daher würde das System sich vor der Abschaltung schützen wollen und das mit allen Mitteln, die im Rahmen seiner Programmierung nicht explizit verboten oder eingeschränkt sind. Hat die Tötung von Menschen für den Schachroboter keinerlei Bedeutung, wäre er wohl gewillt, notfalls seinen Programmierer zuerst auszuschalten und würde somit zum Mörder - obwohl und weil es sich um ein sehr einfaches System handelt.

pte/red

Ihre Meinung dazu? Schreiben Sie hier!

#Schach #Computer #KI #Kriminalität


Kommen Sie auf unsere Facebook-Seite!
Wir sind in Google+ für Sie da...
Folgen Sie unserem Twitter-Feed hier...
Folgen Sie unserem Labarama-Blog...
Newsticker per eMail oder RSS/Feed!

Auch interessant!
Automatisierter Content
Das US-Start-up Articoolo arbeitet daran, die Vision eines 'Roboter-Journalisten' Realität werden zu lass...

Schach HTML5
Schach in 2D und 3D gegen andere Menschen oder den Computer und all das nur mit HTML5 im Browser? Machbar...

Schach den 26 Damen
Wie stellt man Damen auf einem Schachbrett so auf, dass keine eine andere schlagen kann? Eine beliebte Kn...

Schach im Web spielen
Unser Spiele-Tipp bringt Sie zu international gegeneinander spielenden Schach-Freunden. Das System sicher...

Schach-Computer
Günstig, gut, tragbar: Der neue coole Maestro mit Touchscreen!...

Forum: Ihre Meinung dazu!

[AufZack Talk] [Forum]     
Posten Sie ins Forum dazu:
Betreff:

Ihre Meinung via Facebook posten:

   






Top Klicks | Thema Aktuell | Archiv

Folge uns: | Facebook | Google+ | Youtube

 
 

 


BMW X2


Range Rover Velar


Vignette: Kosten 2018


Photo Adventure Wien


Ventilspiel Fotos


King of Europe Drifting


HSN 2017 Vösendorf

Aktuell aus den Magazinen:
 Filter und Zensur Überwachungspaket in Österreich
 Webradio mit Mehrwert Kryptogeld für die Lieblingsmusik
 Probleme mit DSGVO Wirtschaft kann Datenschutz nicht umsetzen
 Jetzt kleben: Vignette 2018 Spätestens mit Februar muss das Autobahnpickerl kleben!
 Eistraum in Wien Die Saison 2018 startete am Rathausplatz

contator.net im Überblick:
 Webnews  WebWizard | Bundesland.at | Wien-Tipp.at | NewsTicker
 Business  Journal.at | Anfrage.net | plex | Seminar.At | BizTipp
 Auto  Auto.At | TunerAuto.At | OldtimerAuto.At | AutoTalk.At | AutoGuide.At | AutoBiz.At
 Freizeit  Style.at | Famili.at | Kinofilm.at | Musical.at | heavy.at | grlz | WitzBold | Advent.At
 Shopping  anna | Shoppingcity.at | SchatzWelt Gewinnspiele | Prozente.net Gutscheine
 Community  AufZack! | Flirtparty | Player | Schmuddelecke
Kontaktformular
Rechtliches
Copyright © 2018    Impressum    Adresse    Sitemap   
Mediadaten    Anfrage: hier werben!    Freies Web? Keine adblocker!
Tripple
      ad-locator.net    |    web-applicator.net    |    imaginator.at