Mer än 4 000 anställda på Google har undertecknat ett brev där man uppmanar teknikjätten att sluta delta i Pentagons flaggskepps artificiella intelligensinitiativ - Project Maven - som syftar till att hjälpa militären att identifiera potentiella fientliga mål från bilder som fångats av drönare.
Project Maven, formellt känd som Algoritmic Warfare Cross-Functional Team, grundades som ett sätt att demonstrera hur avancerad teknik som artificiell intelligens och maskininlärning skulle kunna hjälpa den amerikanska militären i sina operationer. I ett uttalande till WIRED uttalade den tidigare biträdande försvarssekreteraren Bob Work, som etablerade Project Maven i april 2017, att initiativets första uppdrag var att komma fram till ett mer effektivt sätt att bearbeta bilder från drone-video.
Enligt Work visade sig Pentagons analysverktyg vara ineffektiva på grund av den enorma mängden högupplösta bilder från drönarna. Planen var att använda maskininlärning som Google och andra internetföretag använder för att hjälpa drönarna att skilja olika intressanta objekt som människor, byggnader och fordon. Enligt Work var målet för videobearbetningsverktygets utrullning december 2017 - en tidslinje som lätt uppfylldes och tekniken har imponerat sedan dess.
Tillbaka i december uppgav försvarsdepartementet att algoritmer från entreprenörer hjälpte till i kampen mot ISIS. Tidigare denna månad konstaterade oberstlöjtnant Garry Floyd att teknik utvecklad för Project Maven för närvarande används i militärens operationer i Mellanöstern och Afrika. William Carter, en biträdande direktör från Center for Strategic and International Studies, uttalade till och med att "DoD-standarder" effektiviteten av AI-baserade militära lösningar var "bokstavligen ett magiskt verk."
Det AI-baserade bildbehandlingssystemet som utvecklats för Project Maven kan automatiskt kommentera objekt som lastbilar, byggnader och båtar på digitala kartor. Algoritmerna kan också omskolas av analytiker, om systemet gör ett misstag under sin verksamhet.
Varken Google eller Pentagon har förklarat den exakta rollen som den tekniska jätten spelade i utvecklingen av Project Mavens teknologier. Google medgav dock att det hjälpte initiativet genom att tillåta Pentagon att använda sin TensorFlow-maskininlärningsprogramvara för att utbilda algoritmer i drone-bildanalys. Google noterade dock att den teknik som den tillhandahöll var begränsad till icke-kränkande användningar. I ett uttalande till WIRED beskrev Googles AI-direktör arbetet med Pentagon som”vardagligt.” Trots detta uppmanade företagets deltagande i Project Maven fortfarande protester från flera tusen Google-anställda.