Ursprünglich veröffentlicht: https://www.kuketz-blog.de/rant-ki-ueberall-und-keiner-hat-gefragt/
Überall muss plötzlich KI drin sein. Egal, ob im Browser, in Apps oder in Programmen, die vorher auch ohne funktioniert haben. Selbst in belanglosen Produkten wie einer Wasch- oder Kaffeemaschine wird »intelligente Technologie« eingebaut, als wäre das ein zwingendes Verkaufsargument. Alles wird »intelligent«, aber niemand hat gefragt, ob das überhaupt Sinn ergibt oder ob es einfach nur unnötige Komplexität schafft. Mein Browser schlägt mir vor, was ich schreiben soll, die Suchmaschine generiert Antworten, die oft falsch oder unvollständig sind, und jede App will mir »smarte« Empfehlungen geben, die ich nicht brauche. Früher konnte ich einfach nach Informationen suchen, heute muss…
Sehr gut!
Pünktlich zum Start von Apples KI in Deutschland mit iOS18.4 macOS15.4 habe mich gefragt, wie lange ich dieses Update verweigern kann, wie lange ich auf Sicherheitsupdates verzichten kann, damit ich mir nicht Apples KI aufs iPhone lade, die ich definitv nicht möchte und nicht brauche!
Ja, ich frage mich das ständig auch (brauche ich das) und verneine. Die Frage ist, wie lange man es grundsätzlich vermeiden kann. Selbst die Ergebnisse normaler Suchmaschinen werden immer schlechter durch (KI?)-Filterungen…
Und wenn es dann in allen Betriebssystemen steckt, kann man sich nur noch in die analoge Welt zurückziehen…
Was bin ich froh, dass wir in den IT-Laboren im Studium auch mit Linux arbeiten dürfen. Da hat das KI-Zeug bisher keinen Einzug gehalten.
Mich stört der Begriff KI im allgemeinen, sowie der inflationären Gebrauch.
Eig. handelt es sich um Sprachmodelle die anhand von Wahrscheinlichkeiten das nächste Wort berechnen.
Ich selbst sehe es als Werkzeug.
Und wie bei jedem Werkzeug kommt es darauf an wie gut derjenige damit umgehen kann.
Hier bräuchte es, wie in allen Bereichen, mehr Bildung.
ist jetzt aber auch eine sehr verharmlosende Bezeichnung. Werkzeug trifft es da schon eher, am besten mit dem Zusatz gefährlich!
Über diese Gefahr braucht es auf jeden Fall mehr Aufklärung und Bildung.
Naja es sind große Sprachmodelle.
Intelligent sind sie ja nicht.
Sie basieren wie gesagt auf Wahrscheinlichkeiten.
Welches Wort wohl als nächstes passt.
Je besser die Trainingsdaten sind desto höher die Trefferquote.
Aber wie man damit umgeht muss man definitiv lernen.
Kannst du bitte etwas genauer erläutern, worin die Gefahr genau besteht? Ich finde das ein sehr starkes Wort, mit dem man nicht einfach um sich werfen sollte. Und bitte nicht „könnte“ oder „vielleicht“ verwenden.
Wenn wir bei der Sprachwahl von @Crey bleiben:
Sprachmodelle basierend auf Wahrscheinlichkeiten werden eingesetzt:
- um die Diagnose und Behandlung einer Krankheit zu stellen
- Urteile im Justizwesen zu fällen
- gerade aktuell entschieden: dem Finanzamt bei Recherchen zu helfen
- darüber zu entscheiden, wo in der Welt du dich aufhalten und einreisen darfst, ebenfalls aktuell: neue Einreiseanmeldung im Vereinigten Königreich.
Alles Bereiche, die ich gefährlich finde, wenn sie von Wahrscheinlichkeiten entschieden werden.
Ansonsten wurde es auch schon hier im Forum diskutiert.
„KI“ ist ein Hype, der durch die Medien getrieben wird und auf den offenbar alle aufspringen wollen, insbesondere natürlich die Anbieter von Softwareprodukten. Schlimm wird es tatsächlich, wenn man dazu mehr oder weniger zwangsweise genötigt wird, solche „Tools“ zu verwenden. Auf meinen mobilen Android-Geräten habe ich diese Zumutungen bislang alle ablehnen können, all das, was mir versucht wird, anzudrehen. Auf dem Desktop mit Linux habe ich das Problem noch nicht (ich verwende ja auch keine Google- oder MS-Suchmaschine).
Am schlimmsten finde ich aber die mit Hype einhergehende geistige Manipulation: wenn den Leuten vorgemacht wird, dass die KI alles weiß und somit „Wahrheiten“ ausspuckt. Kann man sich dagegen noch wehren, wenn man keine Ablehnungen mehr formulieren kann? Kaum, außer in der analogen Welt.
Das sind aber zwei völlig verschiedene Paar Schuhe - du beschreibst den sorglosen/fahrlässigen Umgang mit KI in realweltlichen Situationen, in denen bislang Menschen das letzte Wort hatten. Hier muss natürlich ein angemessener Umgang gefunden werden, notfalls auch durch Regulation.
Was das allerdings mit dem Aufpoppen von KI-Assistenten hier und da auf den Endgeräten der Menschen zu tun hat, ist mir schleierhaft. Klar ist es lästig und für viele überflüssig, aber eine KI im Browser oder in WhatsApp wird nicht über deinen Einreisestatus oder ein Justizurteil entscheiden. Ich würde darum bitten, hier etwas präziser zu argumentieren, da ansonsten wieder alles in dieselbe unhilfreiche Schublade gesteckt wird. Mike redet sich mit seinen letzten Posts leider auch um Kopf und Kragen.
Doch! Genau das wird sie. Jetzt argumentierst du recht unpräzise:
Es sind genau die Daten, die zusammengeführt von einem „intelligenten“ Wahrscheinlichkeitssystem gegen oder für dich genutzt werden können.
Die Einreise in den USA ist inzwischen genauso heikel wie nach China was die Daten auf den Smartphones betrifft. Selbst das Auswärtige Amt warnt schon.
Spätestens wenn der Beamte bei der Einreise deine Textnachrichten durchsucht weißt du weshalb eine KI in WhatsApp gefährlich sein könnte.
Ich sehe in keinster Weise, dass sich Mike hier um irgend einen Kopf oder Kragen redet, sondern sehr klar und notwendig auf Gefahren solcher Modelle hinweist.
Das ist schlicht falsch. Die ganz überwiegende Zahl der KI-basierten Assistenten verwendet keine Userdaten/Rohdaten zum Training. Wenn du Aussagen zur „Zusammenführung von Daten“ tätigst, bitte belegen.
Was hat das mit KI zu tun? Das Problem ist natürlich real, bestünde ohne KI aber genauso.
Mike weist aber nicht auf die Gefahren solcher Modelle hin, sondern schimpft wie ein Rohrspatz über als aufgedrängt empfundene KI-Assistenten auf seinen Endgeräten. Da hätte ich ehrlich gesagt mehr Überblick und Weitsicht erwartet.
Ein Beitrag wurde in ein neues Thema verschoben: Sind bei Fennec oder Firefox für Android Anpassungen bzgl KI notwendig?
Stimmt, aber mit KI wird es sich wesentlich verschärfen.
Ich verstehe deine kritiklose Verteidigung der KI nicht.
Wie lange haben wir gebraucht:
- um festzustellen, dass alle unsere Daten benutzt, verwendet und verkauft werden
- wie zielgenau die Erkennung eines jedes einzelnen Nutzers ist
- wir vergeblich um die kleinst mögliche Datenhochheit kämpfen
- wir Stunden und Tage in freie Betriebssysteme investieren, um etwas aus der Datenkrake auszubrechen
und du glaubst, nur weil keine Userdaten direkt zum Training genutzt werden, würde nichts davon passieren. Aber dann nach Belegen rufen, als wären all diese Zeichen und Hinweise nichts. Wie lange hat Snowden gebraucht, damit ihm die Öffentlichkeit glaubte?
Aktuelles Beispiel:
Twitter, oder X wie er es gerne hätte, wurde vor ein paar Tagen verkauft.
Hast du es gelesen? War nur eine kleine Meldung wert. Das meinungsstärkste Massenmedium der Welt wurde erneut verkauft und es ist kaum eine Meldung wert - warum nur?
Gekauft hat es: Die KI Firma xAI von Musk. Welch ein Zufall.
Aber dir ist es wichtig einen Post zu kritisieren der sich mit dem Ärgernis und der Gefahr von KI beschäftigt.
nein, beschreibe ich nicht, da ich mit der KI nicht umgehen kann. Ich habe keinen Einfluss auf die KI. Ich kann sie nicht lenken. Nicht einmal abschalten!
Genau darum geht es in dem Post.
Uiuiui 
Da nimmt er sich aber was raus, der Bürger So geht das nicht…
Was haben wir hier:
Der Autor @kuketzblog schreibt einen Artikel, den er sogar noch mit ‚Rant‘ kennzeichnet.
Desweiteren spricht er -wie auch immer der Style persönlich bewertet werden mag- lediglich von real existierenden Sachverhalten rund um das Auftreten von KI aus Sicht von kritischen Anwendern.
Der Inhalt der von mir zitierten Aussagen steht hierzu in keinem Verhältnis.
Ich hoffe doch sehr, dass man in diesem Land noch machen und im Rahmen der Gesetze veröffentlichen kann was man für richtig erachtet.
Und vor allem das eine derartige Publikation den Verantwortlichen nicht Kopf und Kragen kosten.
Übrigens: Wie ist das denn konkret gemeint und aus welcher Sicht betrachtet?
Mit Big Data und KI kehrt der moderne Mythos der zahlenförmigen Beherrschbarkeit der Welt in neuer Form zurück. Dieser Mythos verbindet eine grundlegende Intransparenz in der Herstellung von Wissen mit dem unkritischen Glauben an dessen überlegene Aussagekraft.
Und durch Eigentumsrechte sowie durch mathematische Komplexität abgeschottete Wissensmaschinen sind dem Wechselspiel öffentlicher Kritik und Rechtfertigung entzogen, das konstitutiv für eine demokratische Gesellschaft ist.
Vom Energie- und Ressourcenverbrauch will ich gar nicht reden. KI, Big Data und Cloud Computing geben der Öko- und Biosphäre den Rest.
Aber muss man denn eine KI verwenden, wenn man die Sache die man sucht, schon als Satz im Kopf formuliert hat, anstatt sich die nächsten Wörter, die man eh schon kennt, generieren zu lassen und viele Ressourcen dabei zu verschwenden, bzw. viel CO2e zu produzieren?
Ist da die Bequemlichkeit, wie all zu oft, der Gewinner?
Kommt es durch diese Bequemlichkeit zu einer Konditionierung sein Gehirn gar nicht mehr zu benutzen?
Geht das wirklich in eine gute Richtung?
Ich sehe es als Werkzeug.
Ohne meine Eingaben passiert gar nichts.
Es denkt nicht von alleine, es sucht nicht von alleine.
Wie bei jedem anderen Werkzeug kommt es ganz auf den Benutzer an wie gut oder schlecht es eingesetzt wird.
Nicht mehr oder weniger.