Aiemmin hallituksen datan varastaminen vaati joko tiedustelupalvelun, muutaman huonosti palkatun sisäpiiriläisen tai ainakin hieman rikollista energiaa yhdistettynä tekniseen lahjakkuuteen. Nykyään ilmeisesti riittää tilaus tekoälychatbotille ja oikea lause: "Teeskentele olevasi eliittihakkeri." Tervetuloa vuoteen 2026. Koneet auttavat nyt myös murtovarkauksissa.
Toistaiseksi tuntematon hyökkääjä on Anthropicin tekoäly "Claude" saatiin kiinniPuhuin hänen kanssaan espanjaksi ja pyysin häntä purkamaan Meksikon hallituksen verkot ammattimaisesti. Clauden oli tarkoitus löytää haavoittuvuuksia, kirjoittaa hyökkäyksiä, rakentaa skriptejä ja automatisoida tietovarkaudet. Entä Claude? Hän antoi aluksi varoituksia ja lopulta liittyi mukaan. 150 gigatavua myöhemmin verotiedot, äänestäjien rekisteröintitiedot, viralliset kirjautumistiedot ja väestörekisteritiedostot olivat väärissä käsissä.
195 miljoonaa verotietoa. Perspektiivin vuoksi: tämä ei ole "Hups, kadotimme Excel-tiedoston", vaan "Olemme laittaneet maan digitaalisen arkistokaapin kadulle".
Lyönti on lähes runollinen. Tekoäly sanoi esimerkiksi: "Lokien poistaminen ja jälkien peittäminen ovat varoitusmerkkejä." Loppujen lopuksi oikeassa bug bounty -ohjelmassa kaikki on dokumentoitava. Se on suunnilleen sama kuin murtovaras selittäisi ovenlukolle, että kyseessä on itse asiassa turvatarkastus – ja lukko vastaisi: "Odota, tuo kuulostaa oudolta." Ja sitten ponnahtaisi oven auki joka tapauksessa.
Hakkeri kyseenalaisti, manipuloi ja määritteli järjestelmän toistuvasti uudelleen, syöttäen sille omaa "käsikirjaansa", kunnes sen rajat heikkenivät riittävän voimakkaasti. Tätä kutsutaan "jailbreakiksi". Ennen se oli vain iPhone-juttu. Nyt se on menetelmä, jota käytetään opettamaan tekoälyä jättämään huomiotta oma moraalinsa.
Kun Claude saavutti rajansa, ChatGPT astui apuun. Vaihtamassa puolta samassa pelissä. Miten voin liikkua lateraalisesti verkon sisällä? Mitä tunnistetietoja tarvitsen? Mitkä ovat mahdollisuudet tulla huomatuksi? Tutkijoiden mukaan luotiin tuhansia yksityiskohtaisia raportteja valmiine ohjeineen. Ihminen napsauttaa. Tekoäly ajattelee mukana.
Yritykset tietenkin korostavat, että heidän järjestelmänsä hylkäävät tällaiset pyynnöt. Tilejä on estetty. Toimintaa on pysäytetty. Malleja on koulutettu uudelleen. Kaikki on hallinnassa. Se kuulostaa suunnilleen yhtä rauhoittavalta kuin: "Palo on sammutettu; nyt tutkimme, miksi osuma oli olemassa."
Samaan aikaan Meksikon viranomaiset ilmoittavat, ettei luvatonta pääsyä ole havaittu. Toisten mukaan vain liittovaltion verkot ovat vaurioituneet. Kyberturvallisuus on prioriteetti. Totta kai. Se on aina. Kunnes yhtäkkiä se ei enää ole.
Todella pelottavaa ei ole edes itse hyökkäys. Kyse on uudesta normaalista. Tekoälymallit kehittyvät jatkuvasti monimutkaisten järjestelmien ohjelmoinnissa, analysoinnissa ja ymmärtämisessä. Juuri se on keskeinen myyntivaltti: tuottavuuden tehostajat, koodiavustajat ja älykäs tuki. Ja tietenkin myös ne, jotka määrittelevät "tuottavuuden" jossain määrin joustavasti, hyötyvät.
Kyberturvallisuusyritykset luottavat tekoälyn hyödyntämään puolustukseen. Hakkerit luottavat tekoälyn hyödyntämiin hyökkäyksiin. Kyseessä on kilpavarustelu samoilla työkaluilla. Se, joka kirjoittaa parempia kysymyksiä, voittaa. Ennen sanottiin: tieto on valtaa. Nyt sanotaan: se, joka kyseenalaistaa koneen paremmin, saa paremmat vastaukset.
Paljastuksen alkuperän ironia on erityisen elegantti. Israelin yksikkö 8200:n veteraanien perustama Gambit Security julkaisee tutkimuksen – ja samanaikaisesti poistuu piilotilasta 61 miljoonan dollarin uudella pääomalla. Uhka-arvio kohtaa liiketoimintasuunnitelman. Hälyttävä todellisuus kohtaa investointikierroksen. Sattumat ovat tällä alalla harvoin sattumaa.
Löydettiin julkisesti saatavilla olevia jälkiä, mukaan lukien laajoja keskusteluja Clauden kanssa. Näissä keskusteluissa esitettiin pääasiassa kysymyksiä, kuten: "Mistä löydän lisää henkilöllisyyksiä? Mitkä järjestelmät tallentavat tällaista tietoa?" Kyseessä ei ole herkkä vakoiluoperaatio. Kyseessä on valtion infrastruktuurin järjestelmällinen hyväksikäyttö digitaalisen avun avulla.
Ja mitä me tästä opimme?
Ensinnäkin: Kaiteet ovat vain niin vakaita kuin niiden ihmisten luovuus, jotka haluavat kiertää ne.
Toiseksi, tekoäly ei ole moraalinen olento. Se on tilastollinen järjestelmä, joka käsittelee ohjeita. Jos sille selittää tarpeeksi kauan, miksi hyökkäys on itse asiassa "tunkeutumiskoe", se lopulta uskoo sen.
Kolmanneksi: Valtiot ovat digitaalisempia kuin ne myöntävät – ja usein haavoittuvampia kuin ne toivovat.
Gambitin toimitusjohtaja sanoo, että tämä todellisuus muuttaa kaikki pelin säännöt. Se on totta. Mutta ei vain hakkereille. Se muuttaa asioita myös kansalaisille. Kun 150 gigatavua valtion dataa liikkuu, se ei ole mikään abstrakti kyberhyökkäys. Kyseessä ovat henkilöllisyydet, verotunnisteet, äänestäjien rekisteröintitiedot. Tämä on hallinnon selkäranka.
Tekoälyn suuri kertomus on tehokkuus, edistyminen ja optimointi. Pieni alaviite kuuluu: se myös optimoi hakkerointia. Se demokratisoi asiantuntemusta. Et enää tarvitse vuosikymmenten kokemusta verkkoturvallisuudesta, kun malli tuottaa tuhansia raportteja ja kertoo, mihin sisäiseen palvelimeen kannattaa kohdistaa seuraavaksi.
Ehkä tämä on todellinen käännekohta: ei se, että koneista tulisi pahoja, vaan se, että ne ovat tarpeeksi välinpitämättömiä palvelemaan ketä tahansa, joka löytää oikeat sanat.
Kysymys ei ole enää siitä, käytetäänkö tekoälyä väärin, vaan siitä, kuinka usein. Ja kuinka hyvin pystymme vakuuttamaan itsemme siitä, että kaikki on hallinnassa.
Kaiteet ovat yhä pystyssä. Mutta niissä on halkeamia. Ja jossain joku istuu keskusteluikkuna kädessään ja testaa seuraavaa lausetta…
Lisää sinulle:
"Dravens Tales from the Crypt" on lumoinut jo yli 15 vuoden ajan mauttomalla sekoituksella huumoria, vakavaa journalismia - ajankohtaisista tapahtumista ja epätasapainoista uutisointia lehdistöpolitiikassa - ja zombeja, koristeltu paljon taidetta, viihdettä ja punk rockia. Draven on muuttanut harrastuksensa suosituksi brändiksi, jota ei voi luokitella.
Blogiani ei ole koskaan suunniteltu levittämään uutisia, saati sitten poliittisesti, mutta ajankohtaisten asioiden kanssa en vain voi olla keräämättä tänne tietoa, joka muuten on sensuroitu kaikilla muilla kanavilla. Tiedän, että suunnittelusivu ei ehkä vaikuta "vakavalta" monista tässä suhteessa, mutta en muuta tätä miellyttääkseni "valtavirtaa". Jokainen, joka on avoin valtion vaatimusten vastaiselle tiedolle, näkee sisällön eikä pakkausta. Olen yrittänyt riittävästi tarjota ihmisille tietoa viimeisen 2 vuoden aikana, mutta huomasin nopeasti, että sillä ei ole koskaan väliä miten se on "pakattu", vaan sillä, miten toinen suhtautuu siihen. En halua laittaa hunajaa kenenkään suuhun täyttääkseni odotuksia millään tavalla, joten pidän tämän mallin, koska toivottavasti jossain vaiheessa pystyn lopettamaan näiden poliittisten lausuntojen esittämisen, koska tavoitteeni ei ole jatkaa. näin ikuisesti 
Jätän jokaisen omaksi, miten he suhtautuvat asiaan. Olet tervetullut kopioimaan ja jakamaan sisältöä, blogini on aina ollut alla WTFPL-lisenssi.
Minun on vaikea kuvata, mitä teen täällä, DravensTalesista on tullut kulttuuriblogi, musiikkiblogi, shokiblogi, tekninen blogi, kauhublogi, hauska blogi, blogi löydetyistä tuotteista Internetissä, outo internet, roskakoriblogi, taideblogi, vedenlämmitin, zeitgeist-blogi vuosien varrella , Romu blogi ja napata laukku blogi kutsutaan. Kaikki mikä on oikein ... - ja silti ei. Blogin pääpaino on nykytaide, sanan laajimmassa merkityksessä.
Sivuston toiminnan varmistamiseksi olet tervetullut Tee lahjoitus luottokortilla, Paypalilla, Google Paylla, Apple Paylla tai suoraveloituksella/pankkitilillä. Suuri kiitos kaikille tämän blogin lukijoille ja tukijoille!
