Eine laute Warnung von Elon Musk

Während wir in das Zeitalter der künstlichen Intelligenz eintreten, sind die Risiken für die menschliche Gesellschaft in die Höhe geschossen, weshalb Elon Musk, eine Gruppe von KI-Experten und Branchenführern, eine sechsmonatige Pause beim Unterrichten von KI-Systemen fordert, die leistungsfähiger als GPT-4 sind.

Tatsächlich stellen sie direkt fest, dass es potenzielle Risiken für die Gesellschaft und die Menschheit gibt! Sie spezifizieren nicht, was diese Gefahren sind, aber sie wurden bereits viele Male zuvor erwähnt und berührten sogar die „Unabhängigkeit“ dieser Systeme von menschlichen Wirten und dass sie durch die Kontrolle globaler Cybersysteme politische und wirtschaftliche Katastrophen verursachen können.

Denken Sie daran, dass sowohl die amerikanischen als auch die russischen Atomarsenale von Computern gesteuert werden und es keinen gibt, der nicht für KI anfällig ist. Ein typisches Beispiel ist die zentrale Handlung der Terminator-Filme, in der Skynets künstliche Intelligenz die Kontrolle über die Atomarsenale übernahm und sie aktivierte, wodurch die Menschheit ausgelöscht wurde, die er als eine Art … Krankheit ansah.

Der Brief, der vom gemeinnützigen Future of Life Institute herausgegeben und von mehr als 1.000 Personen unterzeichnet wurde, darunter Musk, Apple-Mitbegründer Steve Wozniak und Emad Mostake, CEO von Stability AI, fordert einen Stopp der fortschrittlichen KI-Entwicklung, bis sie entwickelt und eingesetzt werden kann und unabhängig geprüfte gemeinsame Sicherheitsprotokolle für solche Anwendungen. „Leistungsstarke KI-Systeme sollten nur implementiert werden, wenn wir sicher sind, dass ihre Ergebnisse positiv und die Risiken überschaubar sind“, heißt es in dem Schreiben.

Der Brief geht auch auf die potenziellen Risiken für Gesellschaft und Zivilisation ein, die mit der Entstehung menschenkonkurrierender KI-Systeme im Hinblick auf wirtschaftliche und politische Umwälzungen verbunden sind. Der Brief fordert Entwickler auf, mit politischen Entscheidungsträgern zusammenzuarbeiten, um einen regulatorischen Rahmen zu schaffen.

Der Brief kommt einen Tag, nachdem Europol ethische und rechtliche Bedenken gegen hochmoderne KI-Anwendungen wie ChatGPT geäußert und vor der möglichen böswilligen Nutzung des Systems bei Phishing-, Desinformations- und Cyberkriminalitätsversuchen gewarnt hat.

Hochmoderne KI-Anwendungen und -Funktionen haben seit Ende 2022 einen Aufschwung erlebt, als OpenAI mit Unterstützung von Microsoft seine ChatGPT-Plattform einführte, was konkurrierende Unternehmen dazu veranlasste, ähnliche Anwendungen auf den Markt zu bringen oder ähnliche Funktionen in ihre Plattformen zu integrieren.

Source link