OpenAI lanserar säkerhetslösning som inte lagrar kunddata
OpenAI presenterar en ny lösning för att upptäcka missbruk av AI utan att lagra företagskunders data. Lanseringen sker samtidigt som konkurrenten Anthropic möter kritik för sin policy om datalagring.
OpenAI har presenterat en ny säkerhetslösning för företagskunder som ska kunna upptäcka missbruk av AI utan att lagra användarnas data. Enligt TechCrunch är syftet att stärka skyddet för känslig information samtidigt som företaget kan identifiera skadlig användning av sina modeller.
Den nya tjänsten, Private Safety Processing, bygger på automatiserad övervakning där ingen kunddata sparas hos OpenAI. Lösningen är en vidareutveckling av bolagets så kallade Zero Data Retention-modell, där AI-system övervakar användningen utan att informationen lagras eller granskas manuellt.
Enligt OpenAI gör den nya tekniken det möjligt att upptäcka mönster av potentiellt missbruk som sträcker sig över flera separata användarsessioner. Det kan exempelvis handla om aktörer som försöker kringgå säkerhetssystem genom att dela upp sina instruktioner över tid. Om systemet identifierar misstänkt aktivitet skickas en begränsad signal till OpenAI, som därefter avgör om ärendet behöver följas upp med kunden.
Lanseringen kommer kort efter att Anthropic infört en policy som innebär att företaget, av säkerhetsskäl, lagrar användardata från vissa avancerade AI-modeller i upp till 30 dagar. Policyn har väckt oro bland företag som hanterar stora mängder känslig information och som vill undvika att leverantören lagrar eller granskar deras data.
Enligt TechCrunch följer både OpenAI och Anthropic i normalfallet principen om så kallad Zero Data Retention. Anthropics policy innebär dock ett undantag för vissa modeller, medan OpenAI nu försöker visa att mer avancerad säkerhetsövervakning kan genomföras utan att kunddata behöver sparas.
Frågan om hur AI-leverantörer ska balansera säkerhetsövervakning mot kunders krav på sekretess och dataskydd har blivit allt viktigare i takt med att generativ AI används i verksamheter som hanterar affärskritisk och konfidentiell information. OpenAI positionerar nu sin nya lösning som ett alternativ för företag som vill kombinera avancerade säkerhetskontroller med högre integritet.
