Hoofd van MI5 waarschuwt voor gevaar van biologische wapens door AI
Als de beveiligingsmechanismen van artificiële intelligentie (AI) falen, kunnen terroristen via de technologie toegang krijgen tot biologische wapens of zelfs nieuwe ziekteverwekkers creëren. Daarvoor waarschuwt Ken McCallum, het hoofd van de Britse veiligheidsdienst MI5. Tijdens zijn jaarlijkse toespraak over de terreurdreiging in het Verenigd Koninkrijk noemde McCallum het misbruiken van AI voor biowapens een van de grootste zorgen.
Volgens de topman zorgt AI er nu al voor dat de strijd op het gebied van cyberveiligheid tussen aanvallers en verdedigers in een stroomversnelling komt. De technologie “maakt het eveneens mogelijk om radicaliserend materiaal op maat te produceren. Terroristen proberen AI ook te benutten voor verkenningen en aanvalsstrategieën, onder meer via AI-gestuurde drones”, aldus McCallum.
Potentieel het meest riskant
Hoewel het gevaar nog niet volledig werkelijkheid is geworden, schat MI5 het potentieel van AI om de inzet van bestaande of zelfs nieuwe biowapens te veranderen, als het meest riskant in. Om die dreigingen op te volgen, is de oprichting aangekondigd van het AI Threat Assessment Centre, dat zal samenwerken met de National Crime Agency en het National Cyber Security Centre.
In een vraag-en-antwoordsessie na zijn toespraak verduidelijkte McCallum dat minder geavanceerde groeperingen een flinke sprong in capaciteit zouden kunnen maken als de ingebouwde veiligheidsmechanismen van AI-systemen niet naar behoren werken.
Risico’s van AI zelf
Daarnaast wees hij op de risico’s van AI zelf, beter bekend als het afstemmingsprobleem (in het Engels het zogenaamde AI alignment problem), waarbij de mens voor het eerst in de geschiedenis te maken kan krijgen met een actor die slimmer is dan de mensheid.
“Dit is absoluut nieuw en het verdient de serieuze aandacht die het krijgt, ook binnen MI5”, klonk het.
Oproep
Tot slot deed de topman een oproep aan de Britse bevolking om actief mee te bouwen aan de nationale weerbaarheid. Hij noemde daarbij drie belangrijke gebieden: de systemische veerkracht van de kritieke infrastructuur van het Verenigd Koninkrijk, de maatschappelijke veerkracht in termen van samenhang, en technologische veerkracht.
Nationale veiligheid is volgens hem niet alleen een kwestie van verre conflicten of onderzeese kabels, maar evenzeer van storingen in het elektriciteitsnet, de beveiliging van gebedshuizen of manipulatie op sociale media.
Bovendien vormen polariserende algoritmes een ernstige bedreiging voor de maatschappelijke samenhang, wat zich uitte in recente gewelddaden tegen politieke figuren, aldus McCallum, die onder meer verwees naar de moord op het Britse oud-parlementslid Ann Widdecombe in juli van dit jaar. MI5 zal dan ook bijdragen aan de evaluatie van de veiligheidsmaatregelen voor politici, luidde het tot slot.
LEES OOK.
