In urma cu optsprezece luni, Arturo Bejar si cativa colegi de la Facebook au analizat fotografiile de pe site pe care utilizatorii le-au semnalat ca nepotrivite. Au fost surprinsi de continutul ofensator – pentru ca parea atat de benign.
„Oameni care se imbratiseaza, zambesc pentru aparatul de fotografiat, oameni care fac mute prostesti – adica te puteai uita la fotografii si nu puteai sa-ti dai seama deloc ca ar fi ceva care ar supara pe cineva”, spune Bejar, director la inginerie la site-ul de retele sociale.
Arturo Bejar, un inginer Facebook care a condus proiectul sau de „raportare sociala”, a vorbit la cea de-a doua Zi de Cercetare a Compasiunii a Facebook, pe 11 iulie.

© Jeffrey Gerson/Facebook
Apoi, in timp ce studia o fotografie, unul dintre colegii sai si-a dat seama de ceva: persoana care a raportat fotografia era de fapt in fotografie, iar persoana care a postat fotografia era prietenul lor pe Facebook.
Publicitate
X
Pe masura ce echipa a parcurs alte imagini, au observat ca acest lucru era adevarat in marea majoritate a cazurilor: majoritatea problemelor au implicat oameni care se cunosteau, dar aparent nu stiau cum sa rezolve o problema intre ei.
Cineva ar fi deranjat de o fotografie a unui fost iubit sau a unei foste iubite, de exemplu, sau ar fi suparat pentru ca el sau ea nu a aparut intr-o fotografie care arata aparent „cele mai bune” ale unui prieten. Adesea, oamenilor nu le-a placut ca copiii lor sunt intr-o fotografie pe care o ruda a incarcat-o. Si uneori pur si simplu nu le placea felul in care aratau.
Facebook nu a avut modalitati sigure de a identifica sau analiza aceste probleme, cu atat mai putin de a le rezolva. Si asta i-a facut pe Bejar si colegii sai sa simta ca nu servesc in mod adecvat comunitatea Facebook – o ingrijorare amplificata de cresterea exponentiala a site-ului si de ingrijorarile legate de hartuirea cibernetica in randul celor mai tineri utilizatori.
„Cand vrei sa sprijini o comunitate de un miliard de oameni”, spune Bejar, „vrei sa te asiguri ca acele conexiuni de-a lungul timpului sunt bune, pozitive si reale.”
O misiune descurajanta, dar este una pe care Bejar a condus-o la Facebook, in colaborare cu o echipa de cercetatori de la Universitatea Yale si UC Berkeley, inclusiv oameni de stiinta de la Greater Good Science Center. Impreuna, se bazeaza pe perspective din neurostiinta si psihologie pentru a incerca sa faca Facebook sa se simta ca un loc mai sigur si mai binevoitor atat pentru adulti, cat si pentru copii – si chiar pentru a ajuta utilizatorii sa rezolve conflictele online pe care nu le-au putut rezolva offline.
„In esenta, problema este ca Facebook, la fel ca orice alt context social din viata de zi cu zi, este un loc in care oamenii pot avea conflicte”, spune Paul Piff, cercetator postdoctoral in psihologie la UC Berkeley, care lucreaza la proiect, „si noi doresc sa construiasca instrumente care sa permita oamenilor care folosesc Facebook sa interactioneze intre ei intr-un mod mai bland si mai plin de compasiune.”

Facebook ca consilier de relatii

Pentru utilizatorii tulburati de o fotografie, Facebook ofera optiunea de a face clic pe un link Raport, care ii duce printr-o secventa de ecrane in care pot detalia problema, numita „flux de raportare”.
Pana acum cateva luni, fluxul le-a oferit tuturor „reporterilor” aceleasi optiuni pentru rezolvarea problemei, indiferent de care era de fapt acea problema; acele rezolutii au inclus anularea prieteniei utilizatorului sau blocarea acestuia de la a lua din nou contactul pe Facebook.
„Un lucru pe care l-am invatat este ca, daca dai cuiva instrumentul de blocat, aceasta nu este, de fapt, in multe cazuri solutia potrivita, deoarece asta pune capat conversatiei si nu rezolva neaparat nimic – doar inchizi ochii la asta, ” spune Jacob Brill, un manager de produs al echipei Facebook de Integritate a Site-ului si Suport, care incearca sa rezolve problemele pe care le intampina utilizatorii pe site, de la frauda de cont pana la continutul ofensator.
Jacob Brill, un manager de produs Facebook, prezentand cateva dintre constatarile preliminare ale echipei sale de raportare sociala la a doua Zi de Cercetare a Compasiunii.

© Jeffrey Gerson/Facebook

In schimb, echipa lui Brill a concluzionat ca o optiune mai buna ar fi sa faciliteze conversatiile dintre o persoana care raporteaza continut si utilizatorul care a incarcat continutul, un sistem pe care ei il numesc „raportare sociala”.
„Cred ca asta a fost esential – ca cea mai buna modalitate de a rezolva conflictul pe Facebook nu este sa intervina Facebook, ci sa le oferim oamenilor instrumente pentru a-si rezolva problema”, spune Piff. „Este ca si cum ai merge la un consilier de relatie pentru a rezolva conflictul relational: consilierii relationali sunt acolo pentru a oferi cuplurilor instrumente pentru a rezolva conflictul unul cu celalalt.”
Pentru a ajuta Facebook sa dezvolte aceste instrumente, Bejar a apelat la Piff si doi dintre colegii sai din UC Berkeley, psihologul social Dacher Keltner si neurologul Emiliana Simon-Thomas – directorul facultatii si, respectiv, directorul de stiinta al GGSC – toti experti in psihologia emotiilor. .
„Am simtit ca le-am putea ascuti comunicarea”, spune Keltner, „doar pentru a o face mai inteligenta din punct de vedere emotional, oferind copiilor si adultilor un limbaj mai clar pentru a raporta complexitatea a ceea ce simt.”
Vechiul flux de raportare nu era foarte inteligent din punct de vedere emotional. La identificarea primei probleme pe Facebook, utilizatorii aveau cateva optiuni de baza: puteau selecta „Nu imi place aceasta fotografie cu mine”, sa pretinda ca fotografia ii hartuieste pe ei sau pe un prieten sau sa spuna ca a incalcat una dintre comunitatile site-ului. Standarde – pentru discursul instigator la ura, consumul de droguri, violenta sau alte infractiuni. Apoi ar putea sa-si anuleze prietenia sau sa-l blocheze pe celalalt utilizator sau sa-i trimita un mesaj utilizatorului respectiv.
Initial, utilizatorii au trebuit sa creeze ei insisi acel mesaj si doar 20% dintre ei au trimis efectiv un mesaj. Pentru a creste aceasta rata, Facebook a oferit un text implicit generic: „Hei, nu imi place aceasta fotografie. Va rugam sa-l eliminati.” — ceea ce a crescut rata de trimitere la 51 la suta. Dar adesea utilizatorii trimiteau unul dintre aceste mesaje si nu au primit niciodata raspuns, iar fotografia nu era stearsa.
Bejar, Brill si altii de la Facebook au crezut ca ar putea face mai bine. Echipa de cercetare Berkeley a considerat ca acestui flux lipseste un pas important: oportunitatea utilizatorilor de a-si identifica si de a-si transmite emotiile. Acest lucru ar proteja impotriva faptului ca este mai usor pentru oamenii online sa fie insensibili sau chiar ignoranti la modul in care actiunile lor ii afecteaza pe ceilalti.
„Daca faci pe cineva sa exprime mai productiv ceea ce se simte, asta ii va permite altcuiva sa inteleaga mai bine acele sentimente si sa incerce sa-si raspunda nevoilor”, spune Piff. „Exista cateva lucruri foarte simple pe care le putem face pentru a da nastere la interactiuni interpersonale mai productive.”

© Prin amabilitatea Facebook
In loc sa-i faca pe utilizatori sa faca clic pe „Nu imi place aceasta fotografie”, de exemplu, echipa a decis sa le solicite utilizatorilor propozitia „Nu imi place aceasta fotografie pentru ca:”, pe care o puteau completa cu fraze incarcate de emotii, precum „Este jenant” sau „Ma intristeaza” (vezi captura de ecran din stanga). Persoanele care raportau fotografii au selectat una dintre aceste optiuni in 78 la suta din timp, sugerand ca lista de expresii a surprins in mod eficient ceea ce simteau.
Oamenii au fost apoi dusi catre un ecran care le-a spus ca cea mai buna modalitate de a elimina fotografia era sa-i ceara celuilalt utilizator sa o dea jos — blocarea sau anularea prieteniei nu mai erau prezentate ca optiuni — si li s-a oferit un text mai inteligent din punct de vedere emotional pentru un mesaj pe care il ar putea trimite prin Facebook, adaptate la situatia particulara.
Mesajul inteligent emotional dezvoltat de cercetatorii de la UC Berkeley pentru „reporterii” Facebook. (Numele utilizatorului a fost sters.)

© Prin amabilitatea Facebook

. Textul a inclus numele celeilalte persoane, i-a cerut mai politicos sa elimine continutul („Vrei sa-l dai jos
” vs. vechiul „Te rog, eliminati-l”), si a precizat de ce utilizatorului nu i-a placut fotografia, subliniind reactia emotionala si punctul de vedere, dar pastrand totusi o atingere usoara. De exemplu, fotografiile care au facut pe cineva sa fie jenat sunt descrise drept „putin jenante pentru mine”. (Vezi captura de ecran din stanga pentru un exemplu.)
A mers. Aproximativ 75 pana la 80 la suta dintre oamenii din fluxul nou, inteligent din punct de vedere emotional, au trimis aceste mesaje implicite fara a revizui sau edita textul, o crestere cu 50 la suta fata de numarul celor care au trimis mesajul vechi, impersonal.
Cand Keltner si echipa sa au prezentat aceste constatari la cea de-a doua Zi de Cercetare a Compasiunii de la Facebook, un eveniment public desfasurat in campusul Facebook la inceputul acestei luni, el a subliniat ca ceea ce a contat nu a fost doar faptul ca mai multi utilizatori trimiteau mesaje, ci ca se bucurau de o perspectiva generala mai pozitiva. experienta.
„Exista o multime de date care arata cand ma simt stresat, mortificat sau jenat de ceva ce se intampla pe Facebook, care activeaza parti vechi ale creierului, cum ar fi amigdala”, a spus Keltner multimii. „Si in momentul in care am exprimat asta in cuvinte, in termeni precisi, cortexul prefrontal preia si linisteste fiziologia legata de stres.”
Datele preliminare par sa sustina acest lucru. Dintre utilizatorii care au trimis un mesaj prin acest nou flux, aproximativ jumatate au spus ca au un sentiment pozitiv fata de cealalta persoana (numita „creator de continut”) dupa ce i-au trimis mesajul; mai putin de 20 la suta au spus ca s-au simtit negativ. (Echipa inca colecteaza si analizeaza date despre cum se simt utilizatorii inainte de a trimite mesajele si despre cat de pozitiv s-au simtit dupa ce au trimis un mesaj prin vechiul flux.)
In acest nou sistem de raportare sociala, jumatate dintre creatorii de continut au sters fotografia ofensatoare dupa ce au primit solicitarea de a o elimina, in timp ce doar o treime a sters fotografia in vechiul sistem. Poate mai important, aproximativ 75% dintre creatorii de continut au raspuns la mesajele pe care le-au primit, folosind un nou text implicit pe care cercetatorii l-au creat pentru ei. Aceasta este o crestere de aproape 50 la suta fata de numarul celor care au raspuns la mesajele vechi.
„Rezolutia corecta nu este neaparat ca fotografia sa fie demontata, daca de fapt este foarte importanta pentru persoana care a incarcat-o”, spune Brill. „Ceea ce este cu adevarat important este ca voi vorbiti despre asta si ca exista un dialog care merge inainte si inapoi.”

Aceasta postare este o problema
Toate acestea sunt bune si bune pentru utilizatorii adulti ai Facebook, dar copiii de pe Facebook au adesea nevoie de mai mult. Pentru ei, pericolele Facebook includ hartuirea cibernetica din partea colegilor si manipularea de catre pradatorii adulti. Estimarile aproximative indica faptul ca mai mult de jumatate dintre copii au avut pe cineva sa le spuna lucruri rautacioase sau ranitoare online.
Anterior, daca copiii se simteau raniti sau amenintati de cineva pe Facebook, puteau face clic pe acelasi link Raport pe care il vedeau adultii, care ii ducea printr-un flux similar, intreband daca ei sau prietenii sunt „hartuiti”. De acolo, Facebook le-a oferit optiunea de a bloca sau de a-si anula prietenia acelei persoane si de a-i trimite un mesaj, sugerandu-i totodata sa contacteze un adult care ar putea ajuta.
Psihologul de dezvoltare de la Yale Marc Brackett discuta despre colaborarea sa cu Facebook la a doua Zi de Cercetare a Compasiunii.

© Jeffrey Gerson/Facebook

Dar dupa ce l-au auzit pe psihologul de dezvoltare de la Yale Marc Brackett vorbind la prima Zi de Cercetare a Compasiunii din decembrie 2011, Bejar si colegii sai si-au dat seama ca vechile fluxuri nu au reusit sa recunoasca emotiile particulare pe care acesti copii le traiau. Aceasta supraveghere ar fi putut face copiii mai putin probabil sa se implice in procesul de raportare si sa contacteze un adult care ii sprijina pentru indrumare.
„Modul in care abordezi cu adevarat acest lucru”, a spus Bejar la a doua Zi de Cercetare a Compasiunii, „nu este prin a lua o bucata de continut si a lovi cuiva mana, ci prin crearea unui mediu in care copiii se simt sprijiniti.”
Pentru a face asta, l-a inrolat pe Brackett si pe doi dintre colegii sai, Robin Stern si Andres Richner. Echipa de cercetare a organizat focus grupuri cu copii cu varste intre 13 si 14 ani, cea mai mica varsta permisa oficial pe Facebook, si a intervievat copiii care au suferit de hartuire cibernetica. Echipa a vrut sa creeze instrumente care sa fie adecvate pentru dezvoltare diferitelor intervale de varsta si au decis sa vizeze mai intai acest grup tanar, apoi sa-si dezvolte drumul.
Din discutiile cu acesti adolescenti, ei au identificat unele dintre problemele legate de limbajul pe care il folosea Facebook. De exemplu, spune Brackett, unii copii au crezut ca facand clic pe „Raporteaza” inseamna ca va fi chemata politia si multi nu s-au simtit ca „hartuiti” au descris cu exactitate ceea ce au experimentat.
In schimb, Brackett si echipa sa au inlocuit „Raport” cu un limbaj care a parut mai informal: „Aceasta postare este o problema”.
Ei au incercat sa aplice modificari similare la nivel global, rafinand limbajul pentru a-l face mai potrivit varstei. In loc sa-i intrebe pur si simplu pe copii daca s-au simtit hartuiti, ei le-au permis copiilor sa aleaga dintre motive mult mai nuantate pentru raportarea continutului, inclusiv faptul ca cineva „a spus lucruri rele pentru mine sau despre mine” sau „a amenintat ca ma raneste” sau „a postat ceva pe care eu. pur si simplu nu-mi place.” De asemenea, le-au cerut copiilor sa identifice modul in care continutul i-a facut sa se simta, selectand dintr-o lista de optiuni.
In functie de problema pe care au identificat-o, noile fluxuri le-au oferit copiilor mai multe optiuni personalizate pentru actiunile pe care le-ar putea intreprinde ca raspuns. Aceasta includea mesaje pe care le puteau trimite celeilalte persoane sau unui adult de incredere, care prezentau un limbaj mai bogat din punct de vedere emotional si specific, adaptat tipului de situatie pe care o raportau.
„Am vrut sa ne asiguram ca nu se simt izolati si singuri – ca vor primi sprijin intr-un mod care sa-i ajute sa ajunga la adultii care le-ar putea oferi ajutorul de care au nevoie”, a spus Brackett cand a prezentat echipa sa. lucreaza la a doua Zi de Cercetare a Compasiunii.
Dupa ce a testat aceste noi fluxuri timp de doua luni, echipa a facut cateva descoperiri demne de remarcat. O surpriza a fost ca, atunci cand copiii au raportat probleme pe care le intampinau ei insisi, 53% dintre aceste probleme se refereau la postari care „nu le-au placut”, in timp ce doar trei la suta dintre postari erau considerate amenintatoare.
„Marele concluzie aici este ca… multe dintre cazuri sunt conflicte interpersonale care sunt intr-adevar cel mai bine rezolvate fie intre oameni, fie cu un adult de incredere, oferindu-ti doar cateva indicatii”, a spus Jacob Brill la recenta Zi de Cercetare a Compasiunii. „Asa ca le oferim [copiilor] limba si resursele pentru a ajuta intr-o situatie.”
Si acele resurse par sa functioneze: 43% dintre copiii care au folosit aceste noi fluxuri au contactat un adult de incredere atunci cand au raportat o problema, in timp ce doar 19% au facut acest lucru cu vechile fluxuri.
„Noua experienta pe care o oferim le ofera copiilor puterea sa se adreseze unei persoane in care au incredere pentru a obtine ajutorul de care au nevoie”, spune Brackett. „Nu exista nimic mai imbucurator decat sa poti ajuta cei mai multi copii in cel mai rapid mod posibil.”

Raportare sociala 2.0
Toti cei implicati in proiect subliniaza ca acesta este inca in fazele sale incipiente. Pana acum, a vizat doar utilizatorii Facebook de limba engleza din Statele Unite. Munca echipei lui Brackett s-a concentrat doar pe tinerii cu varsta intre 13 si 14 ani, iar noile fluxuri dezvoltate de echipa Berkeley au fost pilotate doar pe 50% dintre utilizatorii Facebook, selectati aleatoriu.
Emiliana Simon-Thomas de la GGSC discuta despre munca ei cu Facebook la a doua zi de cercetare a compasiunii.

© Jeffrey Gerson/Facebook

Pot ei sa creeze o forma mai inteligenta emotional de raportare sociala, care sa functioneze pentru diferite culturi si grupuri de varsta
„Misiunea noastra la Facebook este sa facem exact asta”, spune Brill. „Vom continua sa ne dam seama cum sa facem acest lucru sa functioneze pentru oricine are experiente pe Facebook.”
Echipele lucreaza deja pentru a imbunatati rezultatele pe care le-au prezentat la a doua Zi de Cercetare a Compasiunii. Brackett spune ca crede ca pot incuraja si mai multi copii de pe Facebook sa se adreseze adultilor de incredere si este dornic sa inceapa sa ajute grupurile de varsta mai inaintate. El este entuziasmat de impactul potential.
„Cand ne facem munca in scoli, este un district, o scoala, o sala de clasa la un moment dat”, spune el. „Aici, avem ocazia sa ajungem la zeci de mii de copii.”
Si aceasta acoperire are implicatii stiintifice interesante pentru cercetatori.
„Vom fi noi cei care vom intra si vom avea 500.000 de puncte de date”, spune Simon-Thomas. „Este dincolo de imaginatia ca un laborator de cercetare sa obtina acest tip de date si se bazeaza intr-adevar la intrebarile care ne intereseaza: cum influenteaza transmiterea emotiei tale dinamica sociala in moduri bogate si interesante
. Faciliteaza cooperarea si intelegerea


Si ce este in ea pentru Facebook
Bejar, tatal a doi copii mici, spune ca protejarea copiilor si consolidarea conexiunilor dintre utilizatorii Facebook face ca site-ul sa fie mai autonom pe termen lung. Proiectul va fi reusit, spune el, daca incurajeaza mai multi utilizatori pur si simplu sa se gandeasca de doua ori inainte de a posta o fotografie care ar putea face de rusine un prieten sau sa-l anunte atunci cand posteaza o imagine indoielnica.
„Sunt acele tipuri de interactiuni amabile si pline de compasiune”, spune el, „care ajuta la construirea unei comunitati durabile”.