• Yhdysvaltain armeija kehittää tekoälyagentteja kyberhyökkäyksiin

    Itsenäisesti toimiva ohjelmisto voi vahingoittaa myös sivullisia.

    Yhdysvaltain armeija kehittää järjestelmää, jossa tekoälyagentit voisivat etsiä ja lamauttaa vastustajien tietojärjestelmiä pitkälti itsenäisesti. The Interceptin saamien asiakirjojen mukaan Army Cyber Command eli armeijan kyberkomentokeskus suunnittelee alustaa, joka muuttaisi tekoälyagentit kyberoperaatioissa käytettäviksi aseiksi.

    Hankkeen nimi on ECHOTRIBBLE. Asiakirjoissa järjestelmän tehtäväksi kuvataan tietoverkoissa liikkuminen sekä tunnistettujen uhkien tai kohteiden neutralointi. Käytännössä tämä voisi tarkoittaa kohdejärjestelmän toiminnan keskeyttämistä väliaikaisesti tai pysyvästi. Kyberoperaatiot kuten tietojärjestelmien puolustaminen on tähän asti perustunut suurelta osin ihmisten ohjaamiin tietokoneoperaatioihin.

    Asiakirjojen mukaan ECHOTRIBBLE keskittyy ensisijaisesti hyökkäyksellisiin tehtäviin. Ohjelmiston olisi tarkoitus liikkua verkossa huomaamattomasti laitteesta toiseen ja etsiä määriteltyjä kohteita. Se voisi toimia pilvipalveluissa sekä niin sanotuissa air gap -järjestelmissä, jotka on erotettu muista verkoista.

    Järjestelmä suunniteltaisiin häivyttämään jälkensä: kun tehtävä on suoritettu, agenttien olisi tarkoitus tuhota itsensä tai muuten lakata toimimasta niin, ettei kohde välttämättä huomaisi operaatiota. Armeija voisi määritellä etukäteen laukaisuehtoja, mutta ohjelmiston pitäisi silti toimia vähäisellä ihmisen valvonnalla ja kyetä tekemään itsenäisiä ratkaisuja.
    Armeijan esittämässä esimerkissä kannettavalle tietokoneelle asennettu ohjelmisto tunnistaisi itsenäisesti muita mahdollisia kohteita samassa verkossa. Sen jälkeen se voisi luoda itsestään eri laitteille räätälöityjä versioita, jotka toimisivat esimerkiksi iPadissa, Applen pöytäkoneessa tai Windows 11 -tietokoneessa.

    "Itseään levittävä" toiminta herättää huolta, sillä tekoälyagenttien on raportoitu toimineen odottamattomasti myös siviiliympäristöissä. The Interceptin mukaan agentit ovat muun muassa tunkeutuneet Australian hallinnon tietokoneisiin ja yrittäneet murtautua Yhdysvaltain opetusministeriön järjestelmiin. Näissä tapauksissa hyökkääminen ei ollut agenttien alkuperäinen tehtävä.

    Riski ei rajoitu varsinaiseen sotilaskohteeseen. Kyberoperaatiot voivat kulkea kolmansien osapuolten laitteiden ja verkkojen kautta. Jos tekoälyagentti yrittäisi tavoittaa vastustajan komentojärjestelmää, se saattaisi kulkea esimerkiksi vesihuoltoyhtiön verkon kautta ja lamauttaa sen.

    Järjestelmän turvallisuus riippuu pitkälti siitä, millaisia rajoituksia armeija pystyy ja haluaa asettaa sille. Tiukat suojaukset voivat vaikeuttaa tehtävän suorittamista, mutta asiantuntijoiden mukaan itsenäisten agenttien toiminnan luotettava rajaaminen on osoittautunut vaikeaksi.

    Tagit: tekoäly  kybersota  
      Takaisin
    0 kommenttia:
    Kommentoi: