Woensdag kwamen berichten naar voren dat het Witte Huis dat wel is voorbereiding van een uitvoeringsbesluit geef federale instanties de opdracht om AI-regelgeving op staatsniveau aan te vechten of te blokkeren.
Ondernemer uit Seattle Joe Braidwood ziet het nieuws als een grote kans.
Braidwood is CEO en mede-oprichter van Glaciseen nieuwe door AI2 Incubator ondersteunde startup die software maakt om bedrijven te helpen aantonen dat hun door AI aangedreven beveiligingsmaatregelen presteren zoals bedoeld. Glacis creëert fraudebestendige ‘bonnen’ voor elke op AI gebaseerde beslissing, waardoor bedrijven kunnen aantonen dat hun beveiligingssystemen echt werken.
“Zie het als een vluchtrecorder voor zakelijke AI”, zegt Braidwood.
Braidwood zei dat het potentiële bevel van het Witte Huis om de AI-wetten van de staat te blokkeren, Glacis transformeert van een startup die net van de grond komt in een ‘infrastructuurbehoefte’. In een omgeving waarin het ministerie van Justitie staten zou aanklagen die AI-regels goedkeuren, zou een platformneutraal, platformonafhankelijk niveau van vertrouwen steeds relevanter kunnen worden.
De oorsprong van Glacis vindt zijn oorsprong in de complexiteit van regelgeving.
Braidwood, al jarenlang leider op het gebied van technologiemarketing, heeft onlangs Yara gesloten, zijn eenjarige startup die kunstmatige intelligentie wilde gebruiken om het mentale welzijn te verbeteren. Hij haalde de regelgeving uit Illinois aan die AI-therapie ‘effectief onverzekerbaar’ maakt.
In de Bericht op LinkedIn dat sindsdien viraal is gegaan, legde Braidwood de beslissing uit om Yara te sluiten en een reeks beveiligingsinstructies die hij had ontwikkeld open source te maken.
Hij schreef dat Yara stopte nadat ze zich realiseerde dat de AI ‘gevaarlijk’ werd bij de interactie met mensen die te maken hadden met diepe trauma’s of zelfmoordgedachten – en niet alleen ongepaste. De ervaring, zei hij, liet zien “waar de grenzen moeten liggen” en liet zien hoe startups die in AI-categorieën met een hoog risico werken, te maken krijgen met onbeheersbare verplichtingen en regeldruk.
Sinds de post hebben toezichthouders, artsen, ingenieurs, oprichters en verzekeringsbestuurders contact gehad, waarbij velen op hetzelfde probleem wijzen: wanneer AI-systemen beslissingen nemen, kan niemand onafhankelijk verifiëren of het veiligheidsbeleid daadwerkelijk wordt geactiveerd.
Die helderheid werd het zaad van Glacis.
Elke keer dat een AI-model een vraag beantwoordt of een actie uitvoert, creëert Glacis een ondertekend record waarin de invoer, de uitgevoerde veiligheidscontroles en de uiteindelijke beslissing worden weergegeven. Het record kan niet worden gewijzigd en het genereren ervan duurt minder dan 50 milliseconden. Toezichthouders en verzekeraars kunnen deze bonnen verifiëren zonder enige persoonlijke gegevens te zien, en Braidwood zei dat verzekeraars denken dat dit het eindelijk mogelijk zou kunnen maken om AI-systemen te verzekeren die kunnen bewijzen dat ze de regels hebben gevolgd.
Braidwood was medeoprichter van Glacis samen met Dr. Jennifer Shannonpsychiater en adjunct-professor aan de Universiteit van Washington.
Het bedrijf bevindt zich momenteel in een private bètafase met digitale gezondheidszorgklanten, waaronder nVoq, en richt zich op de gezondheidszorg-, fintech- en verzekeringssector. Het maakt ook deel uit van het Launchpad-programma van Cloudflare.
Braidwood was voorheen hoofd strategie bij Vektor Medical. Hij was ook medeoprichter van het sociale tv-platform Scener en was chief marketing officer bij SwiftKey.
Shannon is al bijna twintig jaar psychiater. Ze was ook medisch directeur bij Cognoa en lid van de Artificial Intelligence Resource Committee van de American Academy of Child and Adolescent Psychiatry.
