Netzkultur / Netzpolitik

“it’s normal to feel uncomfortable or even violated as we forcefully insert AI into every facet of your conscious experience. And I just want to assure you, you don’t need to worry because there’s absolutely nothing you can do to stop it.”

via https://mastodon.online/@mastodonmigration/114327800145668447

https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/

Archiv

Archiv

DeepL:

Mehrere KI-Chatbots, die für Unterhaltungen über Fantasien und sexuelle Rollenspiele entwickelt wurden, leiten Nutzeraufforderungen fast in Echtzeit an das Internet weiter, wie neue Untersuchungen von WIRED zeigen. Einige der durchgesickerten Daten zeigen, dass Menschen Unterhaltungen führen, in denen es um sexuellen Kindesmissbrauch geht, so die Studie. Unterhaltungen mit generativen KI-Chatbots verlaufen fast augenblicklich - man gibt eine Eingabeaufforderung ein und die KI antwortet. Wenn die Systeme jedoch nicht richtig konfiguriert sind, kann dies dazu führen, dass Chats offengelegt werden. Im März entdeckten Forscher des Sicherheitsunternehmens UpGuard rund 400 ungeschützte KI-Systeme, als sie im Internet nach Fehlkonfigurationen suchten. Von diesen sind 117 IP-Adressen undichte Aufforderungen. Bei der überwiegenden Mehrheit davon handelte es sich offenbar um Testaufrufe, während andere allgemeine Aufforderungen zu Bildungsquizzen oder nicht sensiblen Informationen enthielten, sagt Greg Pollock, Director of Research and Insights bei UpGuard. "Es gab eine Handvoll von ihnen, die sich deutlich von den anderen unterschieden", sagt Pollock.
Drei davon waren laufende Rollenspielszenarien, in denen man mit einer Reihe von vordefinierten KI-"Charakteren" sprechen kann - eine Persönlichkeit namens Neva wird beispielsweise als 21-jährige Frau beschrieben, die mit drei anderen Frauen in einem College-Schlafsaal lebt und "schüchtern ist und oft traurig aussieht". Zwei der Rollenspielkonfigurationen waren offenkundig sexuell. "Im Grunde wird alles für eine Art sexuell explizites Rollenspiel verwendet", sagt Pollock über die aufgedeckten Aufforderungen. "Einige der Szenarien beinhalten Sex mit Kindern."

[...]

DeepL:

Cybersicherheitsexperten und die Infosec-Community spielen eine wichtige Rolle beim Schutz unserer Demokratie, bei der Sicherung unserer Wahlen und beim Aufbau, Testen und Sichern der staatlichen Infrastruktur. Es ist von entscheidender Bedeutung, dass wir uns dafür einsetzen, dass diese wichtige Arbeit fortgesetzt wird und dass diejenigen, die sich in gutem Glauben um diese Aufgaben bemühen, nicht von einer Regierung verleumdet werden, die versucht hat, an ihren Feinden in vielen anderen Bereichen ein Exempel zu statuieren.

Präsident Trump hat den ehemaligen Direktor der Regierungsbehörde für Cybersicherheit und Infrastruktursicherheit (CISA), Chris Krebs, ins Visier genommen, indem er per Durchführungsverordnung die Sicherheitsfreigaben der Mitarbeiter von SentinelOne, wo Krebs jetzt CIO ist, aufhob und eine Untersuchung seiner Arbeit im Weißen Haus einleitete. Präsident Trump hatte Krebs bereits im Jahr 2020 entlassen, als er in seiner Funktion als CISA-Direktor eine Erklärung veröffentlichte, in der er die Wahl, die Trump verlor, als die sicherste in der amerikanischen Geschichte" bezeichnete.

Die Durchführungsverordnung wies eine Überprüfung an, um "alle Fälle zu identifizieren, in denen das Verhalten von Krebs oder CISA gegen die Verpflichtung der Regierung zur freien Meinungsäußerung und zur Beendigung der Zensur auf Bundesebene zu verstoßen scheint, einschließlich der Frage, ob das Verhalten von Krebs gegen die Eignungsstandards für Bundesbedienstete verstieß oder die unbefugte Verbreitung von Verschlusssachen beinhaltete." Krebs wurde in der Tat wegen seiner öffentlichen Haltung entlassen.

Es ist von entscheidender Bedeutung, dass sich die Cybersicherheitsgemeinschaft jetzt zusammenschließt, um diesen abschreckenden Angriff auf die freie Meinungsäußerung anzuprangern und sich hinter Krebs und SentinelOne zu stellen, anstatt sich zu ducken, weil sie befürchten, die nächsten zu sein.

Das Weiße Haus darf nicht zulassen, dass Fachleute der Cybersicherheit zu politischen Sündenböcken gemacht werden. Die EFF setzt sich regelmäßig für die Informationssicherheits-Community ein und schützt die Forscher durch Aufklärung, Rechtsverteidigung, Amicus-Schriftsätze und Engagement in der Community mit dem Ziel, Innovationen zu fördern und ihre Rechte zu schützen, und wir rufen ihre Reihen auf, sich uns bei der Verteidigung von Chris Krebs und SentinelOne anzuschließen. Eine unabhängige Infosec-Community ist von grundlegender Bedeutung für den Schutz unserer Demokratie und für den Berufsstand selbst.

Archiv

Das alte Prinzip von Digg geht so: Nutzer konnten dort Links zu Nachrichtenbeiträgen anderer Webseiten als Lesezeichen abspeichern, auf die auch andere Nutzer zugreifen konnten. Jedes Lesezeichen konnte von Nutzern als positiv oder negativ bewertet werden und ließ sich auch kommentieren. Das erinnert stark an Reddit, mit dem Digg in seinen Anfangszeiten in scharfer Konkurrenz stand.

Die Landschaft der sozialen Medien sei sehr toxisch, unübersichtlich und voll mit Falschinformationen geworden. Aber mit künstlicher Intelligenz (KI) ließe sich das Problem gut adressieren, glaubt er. Denn in den vergangenen Jahren hätten sich die entsprechenden KI-Lösungen sehr stark weiterentwickelt. Schon im Bruchteil einer Sekunde ließen sich alle kürzeren Nutzerkommentare ausführlich auf Dinge wie Gewalt oder Hatespeech prüfen.

Jetzt haben sie mit Lemmy einen Konkurrenten mehr, ganz ohne KI-Geschwurbel

Archiv

Archiv

Erklärung: Im Koalitionsvertrag steht scheinbar ein Vorhaben dass Leute weniger Scheiße labern sollen (hab's selber noch nicht ganz gelesen). Was haltet ihr davon?

Hier ein Artikel dazu: https://www.berliner-zeitung.de/politik-gesellschaft/kampf-gegen-hass-und-hetze-schwarz-rote-koalition-will-luegen-verbieten-li.2315246

(ja der Screenshot oben steht tatsächlich so in der Bild. Warum denen das wohl ein wichtiges Anliegen ist?)

In der österreichischen Politik wird in letzter Zeit massiv die Messenger-Überwachung gefordert, da man "auf ausländische Geheimdienste angewiesen sei". Unabhängig davon was es bei Signal bringt, und unabhängig davon dass es vorher schon daran gemangelt hat, die zahlreich vorhandenen Daten zu verarbeiten.

Spannend wird auch das Verhalten der Neos (= die "Pinken", die hier gemeint sind): Als die Piratenpartei aufkam, haben sie auch das Datenschutz- und Privatsphäre-Thema für sich entdeckt, jetzt würden sie Gesetze für so eine Überwachung mittragen - oder doch nicht?