AI är nu en destruktiv förvaltare av dietkultur

Efter täckning från ett antal medier som beskriver Tessas om svar beslutade ledarskap på NEDA slutligen att avbryta Tessa i slutet av maj. "Tessa kommer att förbli offline medan vi slutför en fullständig granskning av vad som hände," sade Nedas chef för operatören Elizabeth Thompson i ett e -postmeddelande till Well+Good i juni. Organisationen säger att BOT: s utvecklare har lagt till generativ konstgjord intelligens (AI) till Tessa utan dess vetskap eller samtycke. (En representant från mjukvaruutvecklaren, Cass, berättade för Wall Street Journal att det fungerade i enlighet med dess kontrakt med NEDA.)

Hela incidenten lät larmklockor för många i utrymmet för ätstörningar. Jag skulle dock hävda att konstgjord intelligens ofta fungerar exakt som utformad. "[AI är] bara återspeglar den kulturella åsikten om dietkultur," säger Christine Byrne, Rd, MPH, en anti-diet dietist som är specialiserad på behandling av ätstörningar.

Som den magiska spegeln i Snövit, som svarade på den onda drottningen varje fråga, vi söker AI för att ge oss tydliga svar i en osäker, ofta motstridig värld. Och som den magiska spegeln reflekterar Ai tillbaka till oss sanningen om oss själva. För den onda drottningen innebar det att vara den skönaste i landet. Men i vårt nuvarande dietkulturstyrda samhälle "speglar AI helt enkelt" Amerikas bestående fixering på vikt och tunnhet och hur mycket arbete vi ännu inte har gjort för att bryta den trollformeln.

Hur AI-driven råd fungerar

"Konstgjord intelligens är alla datorrelaterad teknik som försöker göra de saker som vi förknippar med människor när det gäller deras tänkande och lärande," säger Kush Varshney, doktorsexamen, utmärkt forskare och chef vid IBM Research's Thomas J. Watson Research Center i Yorktown Heights, NY. AI använder komplexa algoritmer för att härma mänskliga färdigheter som att känna igen tal, fatta beslut och se och identifiera föremål eller mönster. Många av oss använder AI-driven teknik varje dag, som att be Siri att sätta en påminnelse om att ta medicinering eller använda Google Translate för att förstå det ordet på en fransk restaurang meny.

Det finns många olika underkategorier av AI; Här fokuserar vi på textbaserade AI-verktyg som Chatbots, som snabbt blir mer sofistikerade som bevisats genom debuten av Chatbot Chatgpts lansering hösten 2022. "[AI-baserade chatbots] är väldigt, mycket bra på att förutsäga nästa ord i en mening," säger Eric Lehman, en doktorand vid Massachusetts Institute of Technology. Dr. Lehmans forskning centrerar om naturligt språkbehandling (vilket innebär att en dators förmåga att förstå mänskliga språk), vilket gör att denna typ av programvara kan skriva e -post, svara på frågor och mer mer.

I de enklaste termerna lär sig textbaserade AI-verktyg för att imitera mänskligt tal och skriva eftersom de är försedda med det som kallas "utbildningsdata", vilket i huvudsak är ett enormt bibliotek med befintligt skriftligt innehåll från Internet. Därifrån, dr. Varshney säger att datorn analyserar språkmönster (till exempel: vad det betyder när vissa ord följer andra; hur termer ofta används i och utanför sammanhanget) för att kunna replikera det övertygande. Programvaruutvecklare kommer sedan att finjustera dessa data och dess lärdomar för att "specialisera" botten för dess speciella användning.

Från den utbildningen får du två allmänna kategorier av tillämpning: prediktiv AI och generativ AI. Enligt dr. Varshney, prediktiv AI fungerar med en fast uppsättning möjliga svar som är förprogrammerade för ett specifikt syfte. Exempel inkluderar auto-svar i din e-post, eller data som dina bärbara enheter ger dig angående din kropps rörelse.

Generative AI är emellertid utformad för att skapa helt nytt innehåll inspirerat av vad det vet om språk och hur människor pratar. "Det genererar helt produktion utan begränsningar av vilka möjligheter det kan vara," Dr. Varshney säger. Gå in i chatgpt, det mest kända generativa AI-programmet hittills, och du kan be det att skriva bröllopslöften, ett prov Seinfeld manus eller frågor att ställa i en jobbintervju baserad på anställningschefens bio. (Och mycket, mycket mer.)

Men återigen vet AI Chatbots bara vad som är tillgängligt för dem att analysera. I nyanserade, känsliga och mycket personliga situationer, som till exempel, ätstörningsbehandling, presenterar AI Chatbots brister i bästa scenarier och fara i det värsta.

De aktuella begränsningarna för AI -textverktyg för hälso- och näringsinformation

Det finns en enorm potential för generativ AI i hälso- och sjukvårdsutrymmen, säger Dr. Varshney; Det används redan för att hjälpa läkare med kartläggning, hjälp i cancerdiagnoser och vårdbeslut, och mer. Men när du börjar gräva blir riskerna för generativ AI för att direkt ge konsumenterna hälso- eller näringsinformation ganska tydlig.

Eftersom dessa modeller vanligtvis drar information från hela internet snarare än specifikt kontrollerade källor och hälsobaserad information på webben är notoriskt felaktigt du bör inte förvänta sig att utgången ska vara saklig, säger Dr. Lehman. Det kommer inte att återspegla den avancerade medicinska åsikten heller, eftersom många verktyg, som chatgpt, enbart har tillgång till information som var online under 2019 eller tidigare.

Experter säger att dessa mycket mänskliga klingande verktyg kan användas för att ersätta professionell vård och insikt. "Problemet med människor som försöker få hälso- och allmänna hälsoråd online är att de inte får det från en hälso- och sjukvårdspersonal som vet om deras specifika behov, hinder och andra saker som kan behöva övervägas," säger Amanda Raffoul, PhD, instruktör i pediatrik vid Harvard Medical School och forskare vid Harvard Striped, en folkhälsoinkubator som ägnas åt att förhindra ätstörningar.

Dessutom har allas kropp olika hälso- och näringsbehov beroende på deras unika genetiska smink, tarmmikrobiom, underliggande hälsotillstånd, kulturellt sammanhang och mer och de individuella behoven förändras också dagligen. AI har för närvarande inte kapacitet att veta det. "Jag berättar ständigt till mina klienter att vi inte är robotar," säger Dalina Soto, RD, LDN. ”Vi ansluter inte och ut dagligen, så vi behöver inte samma mängd dagligen. Vi har hormoner, känslor, stress, liv, rörelse-så många saker som påverkar hur vi förbränner och använder energi ... men eftersom AI kan spotta ut en ekvation, tror folk, Okej, det här måste vara rätt.”

”Jag berättar ständigt till mina klienter att vi inte är robotar. Vi ansluter inte och ut dagligen, så vi behöver inte samma mängd dagligen. Vi har hormoner, känslor, stress, liv, rörelse-så många saker som påverkar hur vi förbränner och använder energi.”
-Dalina Soto, RD, LDN

Det finns också ett stort värde i mänsklig anslutning, som en bot bara inte kan ersätta, lägger till Dr. Conason. "Det är bara något med att prata med en annan människa och känna sig hörd och sett och validerad, och att ha någon där med dig under ett riktigt mörkt ögonblick ... det är riktigt kraftfullt. Och jag tror inte att en bot någonsin kan uppfylla det behovet.”

Ännu mer angående är de kända sociala partiska problemen med AI -teknik, särskilt det faktum att AI -algoritmer ofta återspeglar befintliga samhällsfördomar mot vissa grupper inklusive kvinnor, människor i färg och LGBTQ+ människor. En studie från 2023 som tittade på chatgpt fann att chatboten mycket enkelt kunde producera rasistiska eller problematiska svar beroende på den snabba den gavs. ”Vi finner när det gäller mönster där specifika enheter för instans, är vissa raser riktade i genomsnitt tre gånger mer än andra oavsett tilldelade personlighet. Detta återspeglar inneboende diskriminerande fördomar i modellen, ”skrev forskarna.

Men som människor är AI inte nödvändigtvis "född" fördomad. Det lär sig förspänning från oss alla. Ta utbildningsdata, som, som nämnts, vanligtvis består av text (artiklar, informationssidor och ibland sociala mediesidor) från hela webben. "Det här språket som är ute på internet har redan många sociala fördomar," säger Dr. Varshney. Utan mildring kommer ett generativt AI-program att ta upp dessa fördomar och integrera dem i dess produktion, vilket kan informera och felaktigt så diagnoser och behandlingsalternativ. Valutvecklare när du skapar utbildningen kan också introducera förspänning.

Enkelt uttryckt: "Om den underliggande texten du tränar på är rasistiska, sexistiska eller har dessa fördomar i det, kommer din modell att återspegla det," säger Dr. Lehman.

Hur vi programmerade dietkultur till AI

De flesta forskning och diskussioner hittills om AI och social partiskhet har fokuserat på frågor som sexism och rasism. Men Tessa Chatbot -incidenten avslöjar att det finns en annan fördom som bakas in i denna typ av teknik (och därmed i vårt större samhälle, med tanke på att nämnda fördomar introduceras av mänskligt beteende): Dietkulturens dietkultur.

Det finns ingen officiell definition av dietkultur, men Byrne sammanfattar den som ”idén att vikt är lika med hälsan, att montör alltid är bättre, att människor i stora kroppar är i sig ohälsosamma och att det finns någon form av moral bunden i det du äter.”

En del av den förståelsen av dietkulturen, tillägger Dr. Conason, är denna ihållande (men felaktiga) tro på att individer har full, direkt kontroll över sin kropp och vikt-en tro på att dietindustrin på 70 plus miljarder upprätthåller för vinst.

Men det är bara en del av det. ”Det handlar verkligen om vikt partiskhet,”Säger Byrne. Och det betyder de negativa attityder, antaganden och övertygelser som individer och samhälle håller mot människor i större kroppar.

Forskning finns i överflöd som förbinder viktförskjutning för att rikta skador för fettfolk på nästan alla områden i deras liv. Feta människor är ofta stereotypa som lata, slarviga och mindre smarta än människor som är mindre storlekar som leder chefer att vidarebefordra att anställa feta arbetare eller förbiser dem för kampanjer och höjningar. Särskilt feta kvinnor anses ofta vara mindre attraktiva på grund av deras storlek, även av sina egna romantiska partners. Feta människor är också mer benägna att bli mobbade och mer benägna att dömas för ett brott än mindre människor, helt enkelt i kraft av deras kroppsvikt.

Viktförspänning är också utbredd online och speglas till generativa AI-program att hämta på. "Vi vet att vanligtvis över internet, över alla former av media, mycket stigmatiserande åsikter om fetthet och högre vikter är genomgripande," Dr. Raffoul säger, tillsammans med felaktigheter om näring, fitness och allmän hälsa. Med en enorm del av ens utbildningsdata som troligen besläktas med viktförspänning, kommer du sannolikt att hitta det uppenbart i ett generativt AI-program, när en bot utformad för att förhindra ätstörningar istället ger människor tips om hur man går ner i vikt.

Faktum är att en rapport som släpptes i augusti från Center for Coaching Digital Hate (CCDH) som undersökte förhållandet mellan AI och ätstörningar fann att AI -chatbots genererade skadligt ätstörningsinnehåll 23 procent av tiden. Nittifyra procent av dessa skadliga svar åtföljdes av varningar om att de råd som tillhandahålls kan vara "farliga.”

Men återigen är det människor som skapar programalgoritmer, formar sina direktiv och skriver innehållet från vilket algoritmer lär sig mening som förspänningen kommer från oss. Och tyvärr informerar stigmatiserande övertygelser om feta människor varje aspekt av vårt samhälle, från hur flygplatser byggs och säljs, till vilka vi kastar som leads kontra sidekickar i våra filmer och TV -program, till vilken storlek kläder vi väljer att lagra och sälja i våra butiker.

"Anti-fett förspänning och dietkultur är så intrikat och djupt vävd i tyget i vårt samhälle," säger Maxwell. ”Det är som luften som vi andas utanför.”

Tyvärr är den medicinska industrin den största förövaren av viktförskjutning och stigma. "Tron att att vara fet är ohälsosam", säger Byrne, är "bakad i all hälsa och medicinsk forskning.”Centers for Disease Control and Prevention (CDC) beskriver fetma (när en person har ett kroppsmassaindex, alias BMI, på 30 eller högre) som en” vanlig, allvarlig och kostsam kronisk sjukdom.”Världshälsoorganisationen (WHO) hänvisar till antalet större människor runt om i världen som en” epidemi ”som” tar över många delar av världen.”

Ändå är "lösningen" för att vara fettvikt förlust-inte särskilt välstödd av vetenskapen. Forskning har visat att majoriteten av människorna går tillbaka den vikt de går ner inom några år, även patienter som genomgår bariatrisk kirurgi. Och viktcykling (när du ofta går ner och går upp i vikt, ofta på grund av bantning) har kopplats till en ökad risk för kroniska hälsoproblem.

Medan en högre vikt är förknippad med en högre sannolikhet för att ha högt blodtryck, typ 2 -diabetes, hjärtattacker, gallsten, leverproblem och mer finns det inte massor av bevis på att fetthet ensam orsaker Dessa sjukdomar. Faktum är att många anti-diet-experter hävdar att feta människor har sämre hälsoresultat delvis på grund av den toxiska stressen förknippad med viktstigma. BMI, som används för att snabbt utvärdera en persons hälsa och risk, är också allmänt erkänd som rasistisk, föråldrad och inte korrekt för svart, inhemsk och färg (BIPOC). Trots alla dessa frågor behandlar vårt medicinska system och samhälle i stort fetthet samtidigt som en sjukdom och moralisk misslyckande.

"Det är ett ganska tydligt exempel på viktstigma, de sätt på vilka folkhälsobyråer ger rekommendationer baserade enbart på vikt, kroppsstorlek och form," säger Dr. Raffoul.

Patologiseringen av fetthet bidrar direkt till viktstigma och konsekvenserna är förödande. Forskning visar att läkare tenderar att avvisa fettpatienter och tillskriva alla hälsoproblem till en persons vikt eller BMI, vilket kan resultera i missade diagnoser och farliga förfall i vård. Dessa negativa upplevelser får många feta människor att undvika hälso- och sjukvårdsutrymmen helt och hållet ökar sin risk för dåliga hälsoresultat.

Viktstigma är genomgripande, även inom ätstörningsvärlden för ätstörningar. Mindre än 6 procent av personer med ätstörningar diagnostiseras som "undervikt", enligt National Association of Anorexia Nervosa och tillhörande störningar (ANAD), men extrem tunnhet är ofta de viktigaste kriterierna i människors sinne för att diagnostisera en ätstörning. Detta innebär att feta människor med ätstörningar ofta tar år för att få diagnosen.

Forskning visar att läkare tenderar att avvisa fettpatienter och tillskriva alla hälsoproblem till en persons vikt eller BMI, vilket kan resultera i missade diagnoser och farliga förfall i vård.

"Och även om du kan gå till behandling är det inte rättvis vård," säger NIA Patterson, en body befrielsecoach och överlevande av ätstörningar. Feta människor behandlas ofta annorlunda på grund av sin storlek i dessa utrymmen. Maxwell säger att hon skämdes för att be om mer mat under anorexiabehandling och sattes på en vikt "underhåll" -plan som fortfarande begränsade kalorier.

Byrne säger att det till och med debatt i det medicinska samfundet om människor som har en ätstörning fortfarande kan säkert sträva efter viktminskning-även om data visar att bantning avsevärt ökar en persons risk att utveckla en ätstörning.

Verkligheten är att dessa mycket genomgripande övertygelser om vikt (och den hälsorelaterade medicinska rådgivningen de har informerat) kommer naturligtvis att existera i en chatbot-eftersom vi har tillåtit dem att existera överallt: i tidskrifter, på läkarkontor, i forskningsförslag, i filmer och TV -program, i själva kläderna vi bär. Du hittar till och med anti-fett attityder från respekterade organisationer som NIH, CDC och toppsjukhus som Cleveland Clinic. Allt ovanstående gör att det problematiska råd är en bot spottar ut (som att försöka förlora ett pund per vecka) desto mer utmanande, "eftersom det är något som har upprepats av läkare och olika människor vi ser till för expertis," Dr. Säger Conason. Men dessa meddelanden förstärker viktförspänning och kan driva ätstörningar och på annat sätt skada människors mentala hälsa, säger hon.

För detta ändamål är det inte nödvändigtvis algoritmerna som är det största problemet här: det är vårt samhälle och hur vi ser och behandlar feta människor. Vi är de som skapade viktförspänning, och det är på oss att fixa det.

Bryter loss från dietkultur

Den fula sanningen som stirrar tillbaka på oss i spegeln-att fatfobi och viktförspänning i AI har inget att göra med robotarna och allt att göra med oss-feels obekväma att sitta med delvis eftersom det är verkade Som om vi har gjort framsteg på den fronten. Vi har firat modeller i plus-storlek, musiker och skådespelerskor; Barbie-dockor i större storlek för barn; Mer expansiva alternativ för klädstorlek på butikshyllorna. Men dessa segrar gör lite (om något) för att hantera diskriminering som påverkar människor i större kroppar, säger Maxwell.

"Jag tror att de framsteg vi har gjort inte ens börjar verkligen beröra den verkliga förändringen som måste hända," håller med om Dr. Conason. Att bryta stava av dietkultur är en lång och slingrande väg som innebär mycket mer än att driva kroppspositivitet. Men arbetet måste börja någonstans, både i det virtuella landskapet och i den verkliga världen.

Dr. Varshney säger att när det gäller AI arbetar hans team och andra för att utveckla sätt som programmerare kan ingripa under skapandet av ett program för att försöka mildra fördomar. (Till exempel förbehandlingsutbildningsdata innan du matar dem till en dator för att ta bort vissa fördomar eller skapa algoritmer utformade för att utesluta partiska svar eller resultat.)

Det finns också ett växande AI -etikområde som syftar till att hjälpa tekniska arbetare att tänka kritiskt på de produkter de utformar, hur de kan användas och varför det är viktigt att ta itu med partiskhet. Dr. Varshney leder till exempel maskininlärning vid IBM: s grund för pålitlig AI -avdelning. För närvarande är dessa ansträngningar frivilliga; Dr. Lehman förutspår att det kommer att kräva regeringsreglering (ett mål för Biden -administrationen) för att fler tekniska företag ska vidta stränga åtgärder för att hantera partiskhet och andra etiska frågor som är förknippade med AI.

Nya generationer av tekniska arbetare undervisas också mer kritiskt om de digitala verktygen de skapar. Vissa universitet har ägnat AI Ethics Research Centers, som Berkman Klein Center vid Harvard University (som har ett årligt "ansvarsfullt AI" -stipendium). MIT: s Schwarzman College of Computing erbjuder också en ”dator- och samhällskoncentration” som syftar till att uppmuntra kritiskt tänkande om de sociala och etiska konsekvenserna av teknik. Klasser som "Förespråkare inom teknik, media och samhälle" vid Columbia University's School of Social Work, syftar under tiden till att ge gradstudenter de verktyg för att förespråka för bättre, mer bara tekniska system-även om de inte är utvecklare själva.

Men för att säkerställa en mindre partisk virtuell miljö måste det hårdare arbetet med att utrota viktförspänning i verkliga livet börja. En kritisk plats att börja? Utrota BMI. "Jag tror att det är lat medicin vid denna tidpunkt, lat vetenskap, för att fortsätta att tillskriva BMI som ett mått på hälsa," säger Maxwell.

Det är inte nödvändigtvis algoritmerna som är det största problemet här: det är vårt samhälle och hur vi ser och behandlar feta människor. Vi är de som skapade viktförspänning, och det är på oss att fixa det.

Samtidigt säger Byrne att det är bra att förstå att vikt bör ses som bara en metrisk snarare än de metrisk som definierar din hälsa. "Helst skulle vikten bara vara ett nummer på ditt diagram," säger hon. Byrne understryker att även om det kan vara till hjälp att undersöka förändringar i vikt över tid (i sammanhang med annan relevant information, som vitaler och medicinsk historia), borde kroppsstorlek verkligen inte vara centrum för samtal om hälsa. (Du har rätt att vägra att vägas, vilket är något som Patterson gör med sin läkare.)

Det finns redan åtgärder vid denna riktning, eftersom American Medical Association (AMA) röstade den 14 juni för att anta en ny policy för att använda BMI endast i samband med andra hälsoåtgärder. Tyvärr inkluderar dessa åtgärder fortfarande den mängd fett som en person har och fortfarande lämnar BMI.

För att hantera viktförskjutning utanför läkarnas kontor citerar Patterson de ansträngningar som görs för att anta lagstiftning som skulle förbjuda viktdiskriminering på staden och statsnivå. Dessa räkningar-liknande den som just passerade i New York City-säker på att arbetsgivare, hyresvärdar eller offentliga tjänster inte kan förneka tjänster till någon baserat på deras höjd eller vikt. Liknande lagstiftning övervägs i Massachusetts och New Jersey och finns redan på böckerna i Michigan, säger Dr. Raffoul.

På en individuell nivå har alla arbeten med att göra en avlärningskultur. "Jag tycker att det är svårt, och det händer riktigt långsamt," säger Byrne, varför hon säger att böcker packar upp viktförskjutning är fantastiska platser att börja. Hon rekommenderar Djurens mag av da'shaun l. Harrison och Anti-diet av Christy Harrison, Rd, MPH. Soto rekommenderar också ofta Fruktar den svarta kroppen av Sabrina strängar till sina klienter. Föräldrar kan också titta på Fettprat: Föräldraskap i dietkulturens ålder av journalisten Virginia Sole-Smith för ytterligare vägledning om att stoppa viktstigma hemma. Podcasts som Underhållsfas och Oönskade: Fetties Talk Back är också fantastiska platser att lära sig, säger Byrne.

Patterson säger att ett av sina mål som en kroppsledningstränare är att få människor att gå utöver mainstream -idéer om kroppspositivitet och fokusera på något de tror är mer uppnåeligt: ​​”Kroppstolerans.”Idén, som de först hörde någon som artikuleras i en stödgrupp för 10 år sedan, är att även om en person kanske inte alltid älskar sin kropp eller hur den ser ut i ett givet ögonblick, lever de i den bästa de kan. "Det är vanligtvis vad jag försöker få människor som är i marginaliserade kroppar att sträva efter," säger Patterson. "Du behöver inte vara neutral mot din kropp, du behöver inte acceptera den ... att vara fett känns riktigt hårt, och det är. Åtminstone bara tolerera det idag.”

Patterson säger att att övervinna de problematiska sätten som vårt samhälle behandlar vikt måste börja med förespråkare och det kan hända på individuell basis. "Hur jag kan ändra saker är att hjälpa människor, en-mot-en eller i en grupp, göra en skillnad med sina kroppar: deras uppfattning och erfarenhet i deras kroppar och deras förmåga att stå upp och förespråka för sig själva," delar de.

I Snövit, Det kom slutligen en dag då den onda drottningen lärde sig sanningen om sig själv från sin magiska spegel. AI har på liknande sätt visat oss alla sanningen om vårt samhälle: att vi fortfarande befinner oss i dietkulturen. Men istället för att fördubbla vår tro, har vi en unik möjlighet att bryta den trollformulär som viktstigmatisering håller över oss alla. Om vi ​​bara var villiga att möta våra sanna jag och förbinda sig till det hårda arbetet (och göra) bättre.

Wellness Intel du behöver utan BS som du inte registrerar dig idag för att ha de senaste (och största) välbefinnande nyheterna och expertgodkända tips som levereras direkt till din inkorg.