Microsoft gaat nog verder dan Slack in opzoeken grenzen van AI

De inbreuken die Slack maakt door berichten te gebruiken voor AI modellen zijn ernstig, maar wat Microsoft voorstelt met Recall is de overtreffende trap. Zijn de twee nu echt zo dom of sturen ze bewust aan op confrontaties? Wie niet weet wat Slack is, zal de ophef die een paar dagen terug ontstond ook niet begrijpen. Voor de leek is het het zoveelste voorbeeld van een bedrijf dat de data ter beschikking stelt aan derden die er “iets met AI” mee gaan doen.

Slack verkoopt data

Slack is een van de communicatiekanalen voor een bepaald – en zeker niet gering – deel van de markt. Communicatie tussen collega’s, maar ook tussen klanten en leveranciers. Lekker snel en simpel via een losse app of toepassing op de achtergrond. Wat partijen uitwisselen aan info zal verschillen, maar een ding is duidelijk. Er wordt erg vaak data gedeeld die niet voor de buitenwacht is bedoeld. Daarmee is de ophef rond AI modellen wel duidelijk. Slack eigenaar Salesforce stelt de data van derden beschikbaar – tegen forse betaling uiteraard. Wie dat niet wil moet de opt-out route bewandelen en daarvan is duidelijk dat die goed verstopt zit. Je kunt er gif op innemen dat dit leidt tot ongevallen en grote schade. De consequentie zal zijn dat het gebruik van Slack in bedrijven die een beetje cyberbewust zijn aan banden wordt gelegd, of in ieder geval wordt gemonitord welke vinkjes zijn gezet of gewijzigd.

Microsoft’s keylogger

Microsoft maakt het nog bonter. Recall is een “AI superoplossing” die elke toetsaanslag van Windows 11 machines zal bijhouden. Het OS wordt uitgebreid met een keylogger en alle data wordt “ergens” op de machine opgeslagen. Opt-in of opt-out? Dat is een detail waarover Microsoft nog weinig heeft gezegd. Dat hoeft ook niet, want alle ogen zijn nu gericht op het bedrijf. Of dat helemaal de bedoeling was valt te bezien. Mensen die verstand hebben van keyloggers weten hoe gevaarlijk die zijn. Over de kwetsbaarheden in elke versie van Windows hoeft verder niets verteld te worden. Microsoft – recent nog over tafel getrokken in Washington wegens het negeren van security basis regels – wil gewoon de beste zijn met AI en zoekt daar duidelijk de grenzen voor op. Die grens zou echter sneller bereikt en zelfs al overschreden kunnen zijn. Binnen de EU is het gebruik van keyloggers door werkgevers niet toegestaan. Bepaalde overheidsdiensten (uw weet vast wel welke) zullen expliciet geen hardware/software mogen aanschaffen en gebruiken die een dergelijke “feature” mogelijk maakt. Daar zal het niet bij blijven. Met de inkt van de AI act nog niet droog zijn er al weer twee cases opgedoken die de roep om verdere aanscherping zullen voeden, politici en juristen zullen blij zijn met de acties van Slack en Microsoft.