Gefahr für Google? (ChatGPT)

[Dr. Udo Brömme]

Es braucht unweigerliche eine systemische Kontrolle/Beschränkung und das gilt nicht nur für die Testdaten, sondern auch dafür, was der Hugo so an kritischen Informationen ausspuckt/ausspucken darf.

Absolut. Und noch mehr gilt das für die (kommenden) SprachKIs von Google, denn bei Google schlummern bereits jetzt Datensätze über uns, die vermutlich unsere Vorstellungskraft übersteigen.
Google kennt ja nicht nur unsere Suchhistorie, sondern hat sehr wahrscheinlich vom größten Teil der Bevölkerung auch Logs über quasi jede einzelne Website, die wir (auch unabhängig von der Google Suche) in den letzten 15 Jahren vom eigenen Laptop oder Smartphone aufgerufen haben.

Wenn eine KI darauf zugreift und solche Daten systematisch verknüpft und auswertet, dann ließe sich daraus eine Personensuchmaschine bauen, die extrem detaillierte persönliche Informationen liefert. Politische Gesinnung, sexuelle Vorlieben, und ziemlich exakte Schätzungen zum Einkommen wären da noch die offensichtlichsten und harmlosesten Dinge.

Sowas muss unterbunden werden, noch bevor es implementiert werden kann, sonst wird es zu großen gesellschaftlichen Problemen kommen.

Ich war immer eher skeptisch, was irgendwelche komplizierten Datenschutzbestimmungen angeht, aber wir kommen jetzt langsam in einer Zeit an, in der das wirklich relevant und essentiell wird. Es muss klar sein, auf welche Daten eine KI zugreift und es muss hierfür Beschränkungen geben. Da die Art der Verarbeitung der Daten nicht zu kontrollieren ist ("Blackbox" als Eigenheit dieser Technologie) muss der Input kontrolliert werden. Wenn man der KI unbeschränkt personenbezogene Daten füttert, dann wird sie diese Daten verarbeiten und bei der passenden Anfrage auch ausgeben.

[staticweb]

> Absolut. Und noch mehr gilt das für die (kommenden) SprachKIs von Google, denn bei Google schlummern bereits jetzt Datensätze über uns, die vermutlich unsere Vorstellungskraft übersteigen.
...
> Sowas muss unterbunden werden, noch bevor es implementiert werden kann, sonst wird es zu großen gesellschaftlichen Problemen kommen.

Ich glaube hier liegst du etwas falsch, denn die Gefahren liegen woanders. Das was du hier als Gefahr siehst ist doch schon lange möglich. Es werden doch jetzt schon die Daten von den Social Media Plattform wie FB, Instagram, Twitter, ... abgezogen, Profile verbunden und ausgewertet.

Und dass Google die Daten seiner diversen Dienste als Trainingsdaten verwendet halte ich doch für sehr weit hergeholt. Falls dies passiert und herauskommt dürfte die Zerschlagung des Konzerns sicher und der finanzielle Schaden enorm hoch sein. Es wird dann auch kaum noch eine Firma Google Dienste benutzen. Ob man das riskieren würde???

[arnego2]

Wer liest denn den Spiegel?

Ich

ChatGPT ist übrigens von Microsoft und Openai

[supervisior]

Ich glaube hier liegst du etwas falsch, denn die Gefahren liegen woanders. Das was du hier als Gefahr siehst ist doch schon lange möglich.

Nein, er liegt absolut nicht falsch. Vielmehr setzt er fort, was ich nur ansatzweise ausformuliert habe, was aber nicht automatisch bedeutet, dass Du unrecht haben könntest, dass "Daten" jetzt schon ausgewertet werden. Mit KI, ChatBot, ChatGPT, Bard usw. hat das Thema nur eine neue Eskalationsstufe bekommen. Deswegen ist es aber weder falsch noch relativiert das beschriebene Problem nicht die Konsequenzen vom Gebrauch von KI.

Falsch an dem was Du meinst, ist dass Du die Probleme versuchst kleinzureden.

[staticweb]

> Ich

Na dann mein herzliches Beileid.

> ChatGPT ist übrigens von Microsoft und Openai

Nein, nur von OpenAI. MS ist lediglich ein Geldgeber. Weiß jetzt auch nicht warum du dies erwähnst?

[staticweb]

> Falsch an dem was Du meinst, ist dass Du die Probleme versuchst kleinzureden.

Nein mache ich nicht. Finde es aber interessant, dass bei Social Media jahrelang niemand interveniert hat. Das ist ein eindeutiges Zeichen für mich, dass sich hinter den Kulissen ein einflussreicher Grüppchen gebildet hat, dem die aktuelle Entwicklung nicht passt. Und du kannst sicher sein, dass die kein wirkliches Interesse an einem verbesserten DS haben.

[Dr. Udo Brömme]

> Absolut. Und noch mehr gilt das für die (kommenden) SprachKIs von Google, denn bei Google schlummern bereits jetzt Datensätze über uns, die vermutlich unsere Vorstellungskraft übersteigen.
...
> Sowas muss unterbunden werden, noch bevor es implementiert werden kann, sonst wird es zu großen gesellschaftlichen Problemen kommen.

Ich glaube hier liegst du etwas falsch, denn die Gefahren liegen woanders. Das was du hier als Gefahr siehst ist doch schon lange möglich. Es werden doch jetzt schon die Daten von den Social Media Plattform wie FB, Instagram, Twitter, ... abgezogen, Profile verbunden und ausgewertet.

Und dass Google die Daten seiner diversen Dienste als Trainingsdaten verwendet halte ich doch für sehr weit hergeholt. Falls dies passiert und herauskommt dürfte die Zerschlagung des Konzerns sicher und der finanzielle Schaden enorm hoch sein. Es wird dann auch kaum noch eine Firma Google Dienste benutzen. Ob man das riskieren würde???

Ja es wird jetzt sicher auch ohne KI schon mehr ausgewertet als man denkt. Aber mit dem Einsatz von KIs tuen sich da Möglichkeiten der Auswertung auf, die bislang kaum vorstellbar waren. Wenn nur die Datenbasis groß genug ist, stellt dir so eine KI alle möglichen Zusammenhänge her und sie gibt vor allem dem User die Möglichkeit, Zusammenhänge herstellen zu lassen, die vom Anbieter gar nicht vorgesehen waren.

Klar, Google wird seiner KI keinen Zugriff auf alle Logfiles geben. Aber auch im kleineren Rahmen können bereits große Probleme entstehen.

Im Prinzip können personenbezogene Daten auch von Dritten an die KI verfüttert werden. Echt oder fake. Ich könnte z.B. ChatGPT 5000 Texte darüber erstellen lassen, dass mein Nachbar Herr xy aus z regelmäßig zu Nazi-Treffen oder noch schlimmerem geht und diese Texte dann so online stellen, dass Bard sie frisst und diese Infos dann möglicherweise weitergibt, wenn er danach gefragt wird.

Hier muss sichergestellt werden, dass personenbezogene Daten konsequent herausgefiltert werden, BEVOR sie in den Trainingsdaten der KI landen. Das muss kontrolliert werden und verstöße müssen scharf Geahndet werden. Was mal in den Fängen der KI ist, kriegt man da nämlich nicht mehr raus.

[nerd]

Hier muss sichergestellt werden, dass personenbezogene Daten konsequent herausgefiltert werden, BEVOR sie in den Trainingsdaten der KI landen. Das muss kontrolliert werden und verstöße müssen scharf Geahndet werden. Was mal in den Fängen der KI ist, kriegt man da nämlich nicht mehr raus.

Ich beneide bei sowas immer meinen ehemaligen Mitschueler, der den am meisten verwendete vorname-nachname ("Mueller") kombination in deutschland haben duerfte. Der geht einfach komplett unter in allen suchergebnissen. Auf facebook gibt es 400+ profile mit dem selben namen in meiner stadt, auf Xing sehen alle profile gleich aus (selbe brille, selber anzug, selber blick) wenn ich ihn dort nach name + arbeitgeber + wohnort suche.
Es gibt namen, die sind einfach komplett unsuchbar...

[supervisior]

Hier muss sichergestellt werden, dass personenbezogene Daten konsequent herausgefiltert werden, BEVOR sie in den Trainingsdaten der KI landen. Das muss kontrolliert werden und verstöße müssen scharf Geahndet werden. Was mal in den Fängen der KI ist, kriegt man da nämlich nicht mehr raus.

Auch wenn ich jedes Deiner Worte unterstütze, ist mir das mit den Trainingsdaten zu kurz gedacht, weil es nur bedingt nicht nur etwas nicht löst, sondern weil es auch nicht die Lösung für künftige und noch gar nicht absehbare Probleme ist.

Wenn die KI wirklich so intelligent ist, wie man es ihr andichtet, dann muss sie so intelligent sein selbst darüber entscheiden zu können, was sie darf und was sie nicht. Nenne es einen Verhaltenskodex, der sich an bislang nicht definierten Vorgaben unmittelbar gebunden sehen muss, da sich die Probleme nicht mit einer Blacklist an Worten lösen lassen. Vor allem deswegen, weil sich die Trainingsdaten nicht auf eine (1) Quelle allein reduzieren lässt. Im Grunde hat jeglicher Input das Potential dafür Daten für das Training zu liefern. Ich befürchte jedoch, dass es bereits zu spät dafür ist!?

[staticweb]

@Dr. Udo Brömme: Mit den personenbezogenen Daten gebe ich dir natürlich Recht, aber bei allen anderen Punkten nicht. Natürlich kann ich Texte schreiben lassen, aber das konnte man vorher doch auch schon. Es ist nur alles effizienter geworden.

Die wahre Gefahr sehe ich aber in allem was gefaked werden könnte und da gibt es eine ganze Menge. Hier müsste es eine explizite und deutliche Kennzeichnung geben für alles was künstlich erzeugt wurde und nichts mit der Realität zu tun hat. Vor allem Bilder und Videos, aber auch Texte aller Art, die einen anderen Urheber vortäuschen.

[staticweb]

> Wenn die KI wirklich so intelligent ist, wie man es ihr andichtet, dann muss sie so intelligent sein selbst darüber entscheiden zu können, was sie darf und was sie nicht.

Hier wurde doch schon angesprochen das man das Wort Intelligenz nicht wörtlich nehmen sollte. Ich verstehe nicht warum du immer wieder damit ankommst? Es handelt sich lediglich um ein Sprachmodell ohne eigene Intelligenz. Man kann sicher Filter einbauen, aber was du hier willst ist reine SF.

[Hanzo2012]

Wenn der KI-Geist einmal aus der Flasche ist, gibt's kein Zurück mehr. Es ist zu spät. OpenAI, Microsoft und Google werden natürlich schon versuchen, ihre KIs, die dem Ottonormalkunden zur Verfügung gestellt werden (z. B. ChatGPT, Dall-E, ...), relativ strenge Regeln aufzuerlegen (generiere keine Anleitungen für illegale Handlungen, generiere keine Bilder, die illegale Handlungen zeigen etc.), aber diese Regeln sind künstlich eingefügt. Jeder, der mit KI was Böses treiben möchte, der kann sich ein eigenes Modell erstellen ohne diese Regeln und damit tun und lassen, was er will. Ist ja alles mehr oder weniger öffentlich zugänglich, wie der Prozess funktioniert. Es ist wie mit der Atombombe - einmal erforscht, kann sie jeder bauen, der die Ressourcen dazu hat.

[staticweb]

> Jeder, der mit KI was Böses treiben möchte, der kann sich ein eigenes Modell erstellen ohne diese Regeln und damit tun und lassen, was er will. Ist ja alles mehr oder weniger öffentlich zugänglich, wie der Prozess funktioniert. Es ist wie mit der Atombombe - einmal erforscht, kann sie jeder bauen, der die Ressourcen dazu hat.

Sagen wir mal jeder der die notwendigen Ressourcen besitzt. Die theoretischen Voraussetzungen sind ja bereits seit 2017 bekannt und werden seit dem sehr dynamisch weiterentwickelt.

[supervisior]

> Wenn die KI wirklich so intelligent ist, wie man es ihr andichtet, dann muss sie so intelligent sein selbst darüber entscheiden zu können, was sie darf und was sie nicht.

Hier wurde doch schon angesprochen das man das Wort Intelligenz nicht wörtlich nehmen sollte. Ich verstehe nicht warum du immer wieder damit ankommst? Es handelt sich lediglich um ein Sprachmodell ohne eigene Intelligenz. Man kann sicher Filter einbauen, aber was du hier willst ist reine SF.

Dann soll man es künstliches Sprachmodell nennen und nicht künstliche Intelligenz, wobei selbst der Begriff Sprachmodell so diffus ist, dass man damit nichts anfangen kann. Und nein, Künstliche Intelligenz hat nichts mit Geheimdienst zu tun.
WTF is SF?

[supervisior]

Die wahre Gefahr sehe ich aber in allem was gefaked werden könnte und da gibt es eine ganze Menge. Hier müsste es eine explizite und deutliche Kennzeichnung geben für alles was künstlich erzeugt wurde und nichts mit der Realität zu tun hat. Vor allem Bilder und Videos, aber auch Texte aller Art, die einen anderen Urheber vortäuschen.

Meno, kapiers doch endlich. Das Problem muss ursächlich und nicht symptomatisch gelöst werden.