AI deze week: werk voor advocaten, verbod in het EP en Co-Pilot spioneert

Maandag was op alle nieuws en techsites te lezen dat AI leidt tot meer werk en daardoor hogere kosten voor advocaten. Die dag kwam ook het dat AI vooralsnog niet door parlementsleden en medewerkers van het EP (Europees Parlement) worden gebruikt. Dan was er ook niet iets met een Co-pilot bug.

De melding in Nederland valt in ieder geval op door het gebrek aan eigen inzet. Elke site die er over schreef verwees naar een item op de website van de NOS. Daar maakte iedereen een samenvatting van en gaf er een eigen draai aan. Een beetje zoals AI persberichten in elkaar draait. Het item bij de NOS was op zijn beurt weer een samenvatting van een artikel op het Financieel Dagblad.

Bijna alle meldingen over “advocaten hebben meer werk door AI” bestaan dus uit samenvattingen van weer een andere samenvatting. Betreurenswaardig. Tussen het origineel en wat online te lezen is zit de nodige ruimte.

De mist in

Waar bijna iedere “samenvatting” de mist in gaat is dat de overuren die in de advocatuur door AI ontstaan geen betrekking hebben op wat een advocaat zelf doet met AI. Het gaat om het doorspitten van de stukken die hij krijgt toegezonden van de andere partijen. Helemaal als dat burgers zijn die menen geen professionele bijstand nodig te hebben is de kwaliteit vaak wel belabberd. (Het FD benoemt dat wel duidelijk, maar het artikel staat achter een paywall. Nieuws en techtsites die dat niet genoemd hebben, hebben het originale artikel dus niet gelezen!)

Ander gevaar

Waar het FD en dus alle andere overschrijvers trouwens geen woord aan wijden is een ander gevaar van AI in de advocatuur. Professionals in die sector weten dat iets in de cloud slingeren niet kan en mag. Iets aan een AI tool voorleggen idem. Zij zullen (mag je hopen) altijd versies van de diensten afnemen waarbij de data in eigen beheer blijft dus niet gebruikt kan worden voor “trainingsdoeleinden”.

De andere kant, dus de amateurs die denken op de kosten van rechtsbijstand te bezuinigen door op ChatGPT & Co te vertrouwen, gooien geheid heel veel vertrouwelijke data in een omgeving waar ze totaal geen zicht op hebben. Dat ze daarmee regels overtreden is evident. Het wachten is op de eerste rechtszaken waarin dat datalekken aan de kaak wordt gesteld.

EP

In het Europees Parlement willen ze dit soort risico’s maximaal indammen. Daar heeft systeembeheer de opdracht gekregen AI tools op alle devices te blokkeren Reden: AI is een cybersecurity en privacy risico (bron). Die heftige maatregel is pas na een volle dag opgevallen bij de Nederlandse titels. De reden daarvoor is dat  deze titels alleen kijken bij websites en platformen die content zonder paywall aanbieden. 

Co-pilot

Het probleem met Microsoft product Co-pilot zal waarschijnlijk sneller worden opgepakt en verspreid. Daar is ook alle reden voor, want een gesignaleerde bug (1226324), veroorzaakt een datalek, een beveiligingsgevaar, een schending van de compliance voorschriften en nog veel meer. Co-pilot heeft schijnbaar ook toegang tot mails die via de DLP policies afgeschermd zouden moeten zijn.  Een optie voor het “samenvatten van mails” blijkt al drie weken ongevraagd en nagenoeg onzichtbaar alle mails door te spitten. In een andere context zou je dat spionage noemen.