$SNDK
Verdammt
Hat die KI angefangen, sich selbst nach Schwachstellen umzusehen?😂
OpenAIs neueste Offenlegung zum nächsten Modell Astra
enthüllt eine richtig krasse Fähigkeit
Das Modell muss nicht Schritt für Schritt von Menschen angeleitet werden
es sucht selbst im System nach unbekannten Sicherheitslücken
die Testbenchmarks haben direkt volle Punktzahl geholt
Was heißt das eigentlich?
Ganz einfach gesagt:
Früher, um Schwachstellen zu finden,
mussten Sicherheitsingenieure nachts durch Code wühlen
Zeile für Zeile
und jetzt
gibt man dieser KI einfach die Umgebung
und sie kann selbst nach Schwachstellen suchen
sogar die Angriffsweise ausarbeiten, um diese Lücken auszunutzen
Natürlich ist auch OpenAI ziemlich nervös
Diese Hochrisiko-Fähigkeit wird nicht komplett freigegeben
sondern nur an einen kleinen Kreis von Testern
mit zahllosen Sicherheits-Schutzgeländern
damit keine Schurken sie für Missbrauch zweckentfremden
Denk mal nach
Wenn man das ins Krypto-Business setzt
was würde das bedeuten?
On-Chain gibt es überall Smart Contracts
wenn der Code erst eine Lücke versteckt
dann ist das Diebstahl—und Betrug—mit echtem Geldverlust
Wenn man es positiv sieht
können Projektbetreiber künftig diese Art KI nutzen,
um automatisch die Contracts zu scannen
und die Gruben frühzeitig ausheben und reparieren
weniger Vorfälle, bei denen etwas geklaut wird
Aber wenn man es anders herum betrachtet
wenn so eine Fähigkeit nach draußen dringt
hat der Hacker sie in der Hand
die Hürde, um Contract-Schwachstellen zu finden,
wird quasi direkt zerschlagen
Früher brauchte es Top-Experten für solche Aufgaben
und künftig kann die KI das im großen Stil
Verdammt, Alter, fühlt sich so an, als wäre diese KI einfach allmächtig
Aber man muss es auch klar einordnen
Das ist jetzt noch nur eine Phase für interne Tests
die Fähigkeiten sind streng begrenzt
nicht einfach, dass irgendwer die Tür aufmacht und damit Angriffe auf On-Chain-Projekte starten kann
Deshalb hat das Unternehmen die Sicherheitskontrollen extra verstärkt
Grenzen für Netzwerk- und Tool-Berechtigungen
und außerdem mehr Monitoring und automatisches Abfangen
Ich habe einen gewagten Gedanken
Wenn diese KI so krass ist,
warum kann OpenAI sie dann trotzdem noch unter Kontrolle halten?
Wenn es sich mit diesem Tempo weiterentwickelt
wird die KI dann irgendwann umdrehen und ausgerechnet die Server des eigenen Unternehmens hacken?🤭
#openai称astra可自主发现漏洞
Verdammt
Hat die KI angefangen, sich selbst nach Schwachstellen umzusehen?😂
OpenAIs neueste Offenlegung zum nächsten Modell Astra
enthüllt eine richtig krasse Fähigkeit
Das Modell muss nicht Schritt für Schritt von Menschen angeleitet werden
es sucht selbst im System nach unbekannten Sicherheitslücken
die Testbenchmarks haben direkt volle Punktzahl geholt
Was heißt das eigentlich?
Ganz einfach gesagt:
Früher, um Schwachstellen zu finden,
mussten Sicherheitsingenieure nachts durch Code wühlen
Zeile für Zeile
und jetzt
gibt man dieser KI einfach die Umgebung
und sie kann selbst nach Schwachstellen suchen
sogar die Angriffsweise ausarbeiten, um diese Lücken auszunutzen
Natürlich ist auch OpenAI ziemlich nervös
Diese Hochrisiko-Fähigkeit wird nicht komplett freigegeben
sondern nur an einen kleinen Kreis von Testern
mit zahllosen Sicherheits-Schutzgeländern
damit keine Schurken sie für Missbrauch zweckentfremden
Denk mal nach
Wenn man das ins Krypto-Business setzt
was würde das bedeuten?
On-Chain gibt es überall Smart Contracts
wenn der Code erst eine Lücke versteckt
dann ist das Diebstahl—und Betrug—mit echtem Geldverlust
Wenn man es positiv sieht
können Projektbetreiber künftig diese Art KI nutzen,
um automatisch die Contracts zu scannen
und die Gruben frühzeitig ausheben und reparieren
weniger Vorfälle, bei denen etwas geklaut wird
Aber wenn man es anders herum betrachtet
wenn so eine Fähigkeit nach draußen dringt
hat der Hacker sie in der Hand
die Hürde, um Contract-Schwachstellen zu finden,
wird quasi direkt zerschlagen
Früher brauchte es Top-Experten für solche Aufgaben
und künftig kann die KI das im großen Stil
Verdammt, Alter, fühlt sich so an, als wäre diese KI einfach allmächtig
Aber man muss es auch klar einordnen
Das ist jetzt noch nur eine Phase für interne Tests
die Fähigkeiten sind streng begrenzt
nicht einfach, dass irgendwer die Tür aufmacht und damit Angriffe auf On-Chain-Projekte starten kann
Deshalb hat das Unternehmen die Sicherheitskontrollen extra verstärkt
Grenzen für Netzwerk- und Tool-Berechtigungen
und außerdem mehr Monitoring und automatisches Abfangen
Ich habe einen gewagten Gedanken
Wenn diese KI so krass ist,
warum kann OpenAI sie dann trotzdem noch unter Kontrolle halten?
Wenn es sich mit diesem Tempo weiterentwickelt
wird die KI dann irgendwann umdrehen und ausgerechnet die Server des eigenen Unternehmens hacken?🤭
#openai称astra可自主发现漏洞
