Meet Diem, den AI-drivna sociala sökmotorn som var tänkt att känna som din vansgruppchatt

Låt oss till exempel säga att du vill veta om hur mycket det kostar att frysa dina ägg. Du skulle skriva den frågan i Diem, och AI-komponenten skulle använda sin bredare internetdatabas och DIEM-användarbidraget innehåll för att generera både ett en-menings svar och en längre en. Och du skulle få båda, tillsammans med alla samhällsgenererade inlägg om ämnet, om du var intresserad av att bläddra igenom dem.

På detta sätt kombinerar Diem lätt AI med personalisering av kunskap från faktiska kvinnor och icke-binära människor-mycket typ av anekdotisk information och livserfarenheter och skvaller Ofta förprioriteras av sökmotorer på grund av förspänning (mer om det nedan). Det är kombinationen, säger Bates, som gör informationen om diem både användbar och direkt tillämplig på människor från dessa samhällen. ”Hur vi alltid har tänkt på att bygga är: 'Hur kan vi skapa ett utrymme där du kan söka efter de kollektiva insikterna i dina samhällen?'" hon säger. ”Om du kan bygga kollektivt med ditt samhälle, formar det röst, data och erfarenhet, och det slutar känna sig annorlunda.”

Frågan om könsförspänning på sökmotorer och AI -plattformar

Eftersom könsförskjutning är utbredd i samhället som helhet finns det också inom sökmotoralgoritmer för internet. Det är samma gap som Bates konfronterades när man försökte hitta tillämplig, relatabel information på morgonen efter piller 2018.

Som bevis, överväga resultaten från en studie från 2022, för vilka forskare såg ut för att avgöra om Google Images-sökningar i länder med högre poäng för köns overksamhet (bedömd med det globala könsgapindexet) också skulle visa en könsförskjutning. För att göra det genomförde de en sökning efter ordet "person" på det lokala språket i 37 länder i sin första studie och 52 länder i deras andra. I alla fall avslöjade Googles sökresultat i länder med större nivåer av samhälleliga könsjämlikhet också större könsskillnad (vilket innebär att en högre andel av de första 100 bildresultaten visade en man kontra en kvinna).

Nya AI -bots har också visat sig upprätthålla könsförskjutning. Till exempel, Bloomberg rapporterade att en beräkningsforskare fick chatgpt för att spotta koden som bara sa att asiatiska eller vita män skulle göra bra forskare; Företagets VD svarade på forskaren på Twitter och uppmuntrade användare att "tummen ner" sådana svar för att hjälpa programmet att lära sig att inte sprida partiskhet.

När jag ställde Chatgpt en liknande fråga, sa det att det inte är lämpligt att använda någons kön eller ras för att avgöra om de skulle utmärka sig i ett yrke. Men även om det verkar som om AI för närvarande lär sig att vara mindre partisk, förlitar det sig fortfarande på objektiva, medkännande användare att träna det för att vara så. (Medan Diems AI till stor del utbildas på information skapad och för Kvinnor och icke-binära människor, och är därför inte föremål för samma fråga om antikvinnligt förspänning från hoppet.)

"AI är bara lika bra som de uppgifter de är utbildade på, och eftersom alla människor har förspänning och fördomar, när deras data används, blir den förspänningen och fördomarna en del av AI."-Nina Vasan, MD, psykiater

Dessa fynd illustrerar hur de fördomar vi upprätthåller när människor naturligtvis överför till de produkter vi skapar och de datasätt som vi bidrar med. "AI är bara lika bra som de uppgifter som den är utbildad på, och eftersom alla människor har förspänning och fördomar, när deras uppgifter används, blir den förspänningen och fördomarna en del av AI," säger psykiatriker Nina Vasan, MD, Chief Medical Officer av Digital Therapy Platform Real och grundare och verkställande direktör för Brainstorm: Stanford Lab for Mental Health Innovation.

Hur Diem syftar till att bli en rolig, informativ sökmotor specifikt för kvinnor och icke-binära människor

Med tanke på Diems avsedda användardemografiska säger Bates att hon tänker på informationen som delas på plattformen och genereras av chatboten som svar på de frågor som människor har när de är i "vänstadiet" i deras liv; Människor absorberar mycket information från vänner när de är i mitten av tjugoårsåldern och tidiga trettiotalet, säger hon. Idén med Diem är att du får perspektiv från en mängd olika människor i din ålder och könsidentitet som du kanske inte har interagerat, och att kollektiv förståelse gynnar alla på plattformen.

Eftersom Diems AI matas med information direkt från människor i denna demografiska, är det en representativ plattform efter design. Från och med nu har tusentals kvinnor och icke-binära människor ställt frågor och delat svar på diem om ämnen som är relevanta för dem, särskilt i kategorierna personlig hälsa, pengar och relationer-som är där Diems AI är bäst utbildad.

Medan det fortfarande lär sig, drar det från ett bredare proprietärt datasätt (liknande det som driver chatgpt) för att hitta information om frågor som människor i samhället ännu inte har diskuterat. En differentieringspunkt är dock att det fortfarande snurrar ut ett "sammanfattat diem-y-svar" för dessa frågor, säger Bates, med faktiska diemkonvos för att informera svarets stil och ton.

Eftersom Diem fortfarande är en AI som förlitar sig på både användargenererat innehåll och det bredare datasättet är det verkligen inte immun till de problem som andra sökmotorer och AI -chatbots står inför, inklusive falsk, vilseledande och, ja, till och med partisk innehåll. I sin tur finns det en knapp i appen och på skrivbordsversionen för att rapportera missbruk, och plattformen har publicerat en uppsättning gemenskapsriktlinjer-som främjar saker som "vänlighet och nyfikenhet" och "empatiskt engagemang"-för att säkerställa användarnas säkerhet och kvaliteten på informationen.

Diem lanserar under en tid då regeringstjänstemän i både USA och EU: s undersöker sätt att reglera AI, till stor del på grund av ovanstående oro. I u.S. Specifikt släppte president Joe Biden's Office ett utkast till en AI Bill of Rights i oktober, en tvåpartsgrupp av U.S. Senatorer under ledning av senator Chuck Schumer arbetar med lagstiftning för att etablera skyddsräcken runt om i branschen, och fyra myndigheter släppte ett gemensamt uttalande förra månaden som beskriver de befogenheter de har för att reglera branschen mer robust, särskilt mot diskriminering till följd av partiskhet.

Men Bates är inte avskräckt genom att komma in i detta landskap. Hon förutspår att det kommer att finnas en "intressant förändring i internetens framtid", där människor kommer att söka information som specifikt tillgodoser var de befinner sig i sina liv. I stället för att be Google om datingråd, till exempel, hoppas hon att du snart kommer att gå till en plattform som Diem, vilket ger dig svar härrörande från människor med en liknande upplevelse till din egen.

"Just nu finns vi i monopol, och det påverkar hur vi använder internet och vad vi förväntar oss av plattformar," säger Bates. När allt kommer omkring återspeglar dessa monopol ofta förspänning till förmån för män. "Jag tror att internet kommer att erbjuda fler nischupplevelser," säger hon. Och vem ska säga att en nisch nödvändigtvis är liten? Som Bates påpekar utgör kvinnor-identifierande människor en nästan lika stor andel av folket på planeten. Och nu finns det en gigantisk gruppchatt som väntar på deras inlägg.

Wellness Intel du behöver utan BS som du inte registrerar dig idag för att ha de senaste (och största) välbefinnande nyheterna och expertgodkända tips som levereras direkt till din inkorg.