vrijdag 09 augustus 2019

‘Kunstmatige intelligentie’ of ‘lerende machines’ zijn in werkelijkheid niets anders dan optimalisatieapparaten

De aanbevelingsalgoritmen die Facebook heeft ontwikkeld, moeten de inkomsten van het platform maximaliseren. De waarderingsmodellen die BNP gebruikt, moeten het risico van wanbetaling tot een minimum beperken. De systemen voor gezichtsherkenning die de politie inzet, zijn bedoeld om verkeerde identificatie tot een minimum te beperken. Het unieke van deze digitale apparaten ligt in het feit dat ze onmiddellijk voorgesteld worden als optimalisatieapparaten: ze zorgen ervoor dat ingenieurs (en degenen die ze gebruiken) problemen aanpakken die wij ervaren, zoals wiskundige problemen, die geminimaliseerd of gemaximaliseerd kunnen worden.

Neem nu het voorbeeld van de aanbevelingsalgoritmen. Stel je voor: leidinggevenden, samengebracht in een sober en ruim kantoor, zien in de aanbevelingsprocessen een unieke kans om de ‘betrokkenheid’ van gebruikers te verbeteren. Het technische kaderpersoneel moet vervolgens een reeks ‘metrics’ vaststellen die deze doelstellingen een meetbare vorm geven, zowel kwantitatief als empirisch. Uiteindelijk trachten de ingenieurs, rusteloos in een open space, een handvol ‘aanbevelingsalgoritmen’ te ontwikkelen om diegene in te zetten die de vastgestelde metrics optimaliseren.

De algoritmen benutten dan elk gegeven om uit de enorme hoeveelheid beschikbare content die content aan te bevelen waarmee u waarschijnlijk zult interageren. De ‘click-through rate’ biedt op dit vlak een standaardprocedure om te meten in welke mate algoritmen dergelijke interacties kunnen genereren. De desbetreffende metrics omschrijven de ‘click’ als maatstaf voor de geslaagde interactie en het ‘aantal clicks’ als prestatie-indicator van het algoritme. Het algoritme is dus optimaal wanneer zijn aanbevelingen een maximaal aantal clicks genereren.

De hedendaagse optimalisatieapparaten, ongeacht of we het nu over ‘lerende machines’ of ‘kunstmatige intelligentie’ hebben, zijn in wezen een voortzetting van de ondernemingen die mensenzaken willen mathematiseren en die een halve eeuw geleden opgestart werden door ingenieurs in operationeel onderzoek, besluitvormingsstatistiek of wiskundige economie. Hoewel de term ‘optimalisatie’ aan het einde van de Tweede Wereldoorlog in onze talen verschijnt om deze transformaties te benoemen, heeft hij nu de kracht en de vanzelfsprekendheid van een leuze, op basis waarvan elke situatie beschouwd lijkt te kunnen en moeten worden.

Het concept van optimalisatie geeft dan twee mogelijkheden aan die deze technische middelen aan een echte politieke discussie kunnen onderwerpen.

De eerste is de mogelijkheid om leidinggevenden te verplichten om de metrics te verantwoorden die hun apparaten moeten optimaliseren. Metrics zijn weliswaar technisch, voor zover ze ons in staat stellen om precies de effecten van een bepaald apparaat te kennen (bv. het aantal clicks dat een bepaald algoritme genereert). Maar ze zijn nog steeds en vooral handig, in die zin dat ze de invoering veronderstellen van een verdeling tussen wat belangrijk is (bv. de commerciële inkomsten van Facebook) en wat onbelangrijk is (bv. de mogelijke effecten van verkeerde informatie). Optimalisatie nodigt ons uit om de nagestreefde doelen te bespreken en metrics te bedenken die voor andere doeleinden gebruikt kunnen worden.

Het tweede punt is de mogelijkheid om het vermogen van deze apparaten om problemen die ons aangaan aan te pakken, te bespreken. De optimalisatieapparaten beperken de reikwijdte van de situaties die wij dankzij hen kunnen rapporteren, en breiden ze op hetzelfde moment ook uit. Het is een feit dat dwingende toespraken meestal niet worden opgemerkt: het wiskundige formalisme faalt soms waar andere vormen van onderzoek (gesprekken, interviews, enz.) of tussenkomst (demonstraties, reglementen, enz.) succes hebben. Optimalisatie nodigt ons uit om ons af te vragen of een bepaald wiskundig apparaat onze manier van denken en handelen in deze belangrijke situaties kan verrijken of verarmen.

Als we alleen de ethische (bonus) of politieke (optimum) betekenis bedoelen die in zijn oorsprong ligt, biedt het concept van optimalisatie een uniek middel om zich te verzetten tegen discours die wiskundig formuleerbare problemen willen maken, de enige problemen die het waard zijn om praktisch aangepakt te worden.

Jérémy Grosman, Doctorant en Philosophie,
Centre de Recherche Information, Droit et Société (CRIDS) de l'Université de Namur (Unamur)