Wat zijn mogelijke ethische problemen die moeten worden aangepakt?
Inzicht in de ethische risico's van AI in de financiële dienstverlening
Hoe werkt AI?
Begrijp enkele van de potentiële ethische problemen die AI met zich meebrengt voor financiële dienstverleners en wat technologieleiders hebben afgesproken als waarborgen te bieden.
Kunstmatige intelligentie (AI) is tegenwoordig een van de meest besproken technologieën geworden, en met een goede reden: naarmate de technologie volwassener wordt, vindt het toepassing in het hele spectrum van menselijke inspanningen, van wetenschap tot kunst... zelfs financiële diensten.
AI bootst menselijke besluitvorming na door enorme hoeveelheden gegevens te consumeren en algoritmen toe te passen die tot een passende beslissing komen op basis van goede en slechte beslissingen uit het verleden. Het algoritme wordt getest door nieuwe gegevens toe te passen en de reacties van de machine te meten.
Na verloop van tijd "leert" het model het verschil tussen een goede beslissing en een slechte beslissing op basis van het algoritme en live menselijke interactie, en geeft het feedback over de kwaliteit van zijn beslissingen. Tegelijkertijd passen AI-ontwerpers de leeralgoritmen en -modellen voortdurend aan om optimale reacties te garanderen.
AI wordt momenteel gebruikt in een aantal toepassingen voor financiële diensten, waaronder het beheren van activatoewijzingen, het beoordelen van portefeuillerisico's, het kwalificeren van leningaanvragen en geautomatiseerde chatbots die diensten aanbevelen op basis van de behoeften van de klant. De voordelen van AI beloven financiële dienstverleners te helpen de kosten te verlagen, de waarde van de klantenportefeuille te maximaliseren en de kredietwaardigheid van leningaanvragers nauwkeurig te beoordelen.
Er zijn aanzienlijke voordelen verbonden aan het gebruik van AI binnen de financiële dienstverlening, zoals::
- gepersonaliseerde klantervaring,
- risicobeheer en fraudedetectie,
- verbeterde gegevensanalyse, en
- operationele efficiëntie en kostenreductie.
Maar met grote macht komt grote verantwoordelijkheid.
- 1
Transparantie
Het is bijna onmogelijk om te begrijpen hoe complexe AI-algoritmen werken, met name eigen algoritmen van externe ontwikkelaars. Dit gebrek aan transparantie kan problematisch zijn voor toezichthouders, klanten en zelfs het bedrijf zelf om te begrijpen waarom een twijfelachtige transactie is gedaan.
- 2
Verantwoordelijkheid
Naast het mogelijke gebrek aan transparantie kunnen complexe besluitvormingsalgoritmen het moeilijk maken om verantwoordelijkheid toe te wijzen en een entiteit verantwoordelijk te houden als er fouten of vergissingen optreden.
- 3
Privacy
AI leert door enorme hoeveelheden gegevens te assimileren. Dit kan inhouden dat onbedoeld gevoelige of persoonlijke informatie in de financiële dienstverlening wordt opgenomen. Gegevensprivacy en -beveiliging zijn van cruciaal belang om misbruik en ongeoorloofde toegang tot gevoelige informatie te voorkomen.
- 4
Vooroordeel
Het algoritme wordt gemaakt door gegevens aan een model toe te voegen en wordt beïnvloed door de vooringenomenheid van de gegevens die erin worden opgenomen. Dit kan vele vormen aannemen, zoals een aanleg voor specifieke activaklassen of handelsstrategieën. Vooringenomenheid kan ook de vorm aannemen van discriminerende praktijken die worden toegepast op gemarginaliseerde demografische groepen bij het beoordelen van lening- of verzekeringsaanvragen.
- 5
Misplaatste afhankelijkheid
AI is een hulpmiddel ter ondersteuning van beslissingen. Te veel vertrouwen op de tool zonder voldoende menselijk toezicht kan betekenen dat slechte beslissingen over het hoofd worden gezien, wat mogelijk kan leiden tot verlies van klanten en boetes van de regelgevende instanties.
- 6
Veiligheid
Alle systemen zijn kwetsbaar voor aanvallen en AI is niet immuun. Naast cyberdreigingen zoals diefstal van beveiligde gegevens of ransomware-aanvallen, moeten bedrijven waakzaam zijn om te identificeren wanneer kwaadwillenden toegang proberen te krijgen tot AI-systemen om de AI-modellen te manipuleren, wat kan leiden tot foutieve of frauduleuze transacties.
- 7
Systeemrisico
Naarmate AI meer wijdverbreid wordt, is het mogelijk dat meerdere instellingen dezelfde of vergelijkbare AI-tools gaan gebruiken, wat een negatieve invloed heeft op de sector. Markten kunnen bijvoorbeeld nadelig worden beïnvloed als meerdere bedrijven dezelfde AI-beslissing gebruiken om markten in één richting te sturen.
De toekomst van AI: ethische problemen aanpakken
Microsoft heeft zes aanbevolen gebieden gepubliceerd voor het ethische gebruik van AI: eerlijkheid, betrouwbaarheid en veiligheid, privacy en beveiliging, inclusiviteit, transparantie en verantwoording.
- Watermerken gebruiken op audio- en visuele inhoud om inhoud te identificeren die door AI is gegenereerd.
- Onafhankelijke experts toestaan om te proberen modellen tot slecht gedrag te dwingen - een proces dat bekend staat als "red-teaming".
- Het delen van vertrouwens- en veiligheidsinformatie met de overheid en andere bedrijven.
- Investeren in cyberbeveiligingsmaatregelen.
- Derden aanmoedigen om kwetsbaarheden in de beveiliging aan het licht te brengen.
- Het melden van maatschappelijke risico's zoals ongepast gebruik en vooroordelen.
- Prioriteit geven aan onderzoek naar de maatschappelijke risico's van AI.
- Het gebruik van de meest geavanceerde AI-systemen, bekend als grensverleggende modellen, om de grootste problemen van de samenleving op te lossen.
HSO kan helpen
Naast de vele voordelen brengt AI een aantal ethische uitdagingen met zich mee voor financiële dienstverleners. Deze instellingen moeten samenwerken met marktleiders, technische experts, regelgevers en andere belanghebbenden om aanbevolen richtlijnen op te stellen voor het ethische gebruik van AI in de financiële dienstverlening.
Klaar om een stap in de toekomst te zetten met AI?
Neem contact met ons op.
Lees meer over hoe wij financiële dienstverleners ondersteunen