의사결정자들이 윤리적 설계를 우선순위로 삼도록 어떻게 설득할 수 있습니까?
콘텐츠 경고 : 이 기사는 자살에 대해 설명합니다. 읽을 때 주의하세요.
핵심요약 : 윤리적으로 설계하는 것이 "해야 할 옳은 일"이라고 말하는 것만으로는 충분하지 않습니다. 복잡한 시스템에서 운영되는 대규모 조직에는 많은 경쟁 우선순위가 있습니다. 궁극적으로 그들은 주주와 수익에 대해 책임을 집니다. 의사 결정권자의 관심을 끌기 위해서는 윤리적 설계를 위험 관리 전략으로 재구성해야 합니다.
윤리적 설계는 위험 관리 전략입니다.
디자인 및 기술 윤리와 관련하여 우리는 종종 도덕적 주장을 합니다. 포괄적으로 디자인하는 것은 옳은 일입니다. 작업의 영향을 고려하고 잠재적 피해를 완화하는 것은 디자이너로서 우리의 책임입니다. 윤리적 설계에 대한 이러한 접근 방식의 한계는 범위 중 하나입니다. 예를 들어 특정 제품 기능에 대한 디자이너로 작업할 때 우리는 종종 제한된 영향력 내에서 작업합니다. 윤리적 설계를 옹호하기 위해 우리의 입장을 사용할 수 있고 절대적으로 해야 하지만, 종종 우리가 운영하고 있는 더 넓은 시스템에 미치는 영향은 제한적입니다.
우리가 훨씬 더 큰 시스템 안에 존재한다는 사실을 인정하는 것이 중요합니다. 다국적 기업은 주주에 대한 책임, 글로벌 입법 프레임워크 및 광범위한 경제 시스템이라는 복잡한 인프라 내에서 운영됩니다. 실제로 (그들이 뭐라고 말하든) 그들의 주요 책임은 제품 사용자나 제품을 만드는 직원이 아닙니다. 이 수준에서 운영할 때 "해야 할 올바른 일"에 호소하는 것은 종종 비효율적입니다. 다른 경쟁 우선순위가 너무 많습니다.
아마도 윤리적 설계를 옹호하는 더 좋은 방법은 위험과의 관계를 논의하는 것입니다. 처음부터 윤리적으로 설계하는 것이 위험을 관리하는 방법입니다. 윤리적 설계 원칙을 포함함으로써 완화될 수 있는 몇 가지 주요 위험에 대해 논의할 것입니다. 아래 카테고리는 다소 인위적이며 상호 배타적이지 않습니다. 복잡한 시스템에서와 마찬가지로 이러한 것들은 서로 교차합니다.
위험 1 : 공공 안전에 대한 위험
이 시점에서 기술이 개인, 커뮤니티, 사회 전체에 심각한 해를 끼칠 수 있는 방법에 대한 수많은 예가 있습니다. 나는 이전에 피해와 영향 측면에서 이것에 대해 이야기했습니다. 그러나 위험의 언어로 표현하자면 이는 공공 안전에 대한 위험의 예입니다.
기술이 공공 안전에 미치는 영향을 보여주는 최근의 비극적인 사례는 14세 Molly Russell의 자살입니다. 조사 판결은 최근에 보고되었으며, 수석 검시관은 Molly가 "우울증과 온라인 콘텐츠의 부정적인 영향으로 고통받는 동안 자해 행위로 사망했습니다"(이 경우 Pinterest 및 Instagram에서)라고 결론지었습니다. 전문가들은 Molly가 사망하기까지의 기간 동안 플랫폼에서 Molly에게 추천한 일부 자해 콘텐츠를 검토했습니다. 그들 중 한 사람은 법원에 이렇게 말했습니다.
“짧은 시간에 보아야 했고 매우 불안하고 괴로웠습니다. 몇 주 동안 잠을 잘 수 없었던 기간이 있었습니다. 나는 그녀가 [영향을 받았다]고 말할 수 있을 뿐인데, 특히 그녀가 우울한 14세 소녀였다는 것을 염두에 두어야 합니다. 그것은 확실히 그녀에게 영향을 미치고 그녀를 더 절망적으로 느끼게 만들 것입니다.”
수사 결과는 참혹하다. 법원은 소셜 미디어 회사의 상업적 및 디자인 결정과 개인의 삶에 미치는 실제 영향 사이에 명확하게 선을 그었습니다. 이러한 글로벌 조직이 내린 결정이 공공 안전에 위험을 초래한다는 데는 의심의 여지가 없습니다. 그러나 초점을 전환하기 위해 조직 자체에 대한 위험은 어떻습니까?
위험 2 : 평판
Molly Russell과 같은 사례는 Meta(Instagram을 소유한 회사, 이전에는 Facebook이라고 함)의 나쁜 PR에 기여했습니다. 작년에 내부고발자 Frances Haugen이 페이스북이 반복적으로 "안전보다 성장"을 우선시했음을 증명한 문서가 폭발적으로 유출된 후 나온 것입니다. Haugen이 공개한 문서에 따르면 조직은 Instagram이 젊은이들에게 "유해한" 장소라는 것을 알고 있으며 이러한 결과를 공유하지 않기로 결정했습니다. 그들은 "조사에 응한 십 대 소녀의 32%가 자신의 몸에 대해 기분이 좋지 않을 때 Instagram 때문에 기분이 더 나빠졌다고 말했다"는 사실을 알고 있었습니다. 그들은 "조사에 참여한 영국 청소년의 13%와 미국 사용자의 6%가 자살하고 싶은 욕구를 인스타그램에서 찾았다"는 사실을 알고 있었습니다.
Facebook은 모든 잘못된 이유로 미디어에서 자주 논의됩니다. 이러한 부정적인 이야기는 회사가 포괄적이고 윤리적인 제품 디자인을 우선시하지 않은 전략적 결정을 내린 결과입니다. 대신 그들은 무엇보다 혁신과 성장을 우선시합니다. 이러한 속도로 작업하는 것은 의도하지 않은 설계 결과로 인한 피해를 신중하게 고려할 수 없습니다. 우리는 Haugen의 증언에서 Facebook이 내부 연구(윤리적 설계의 기본)에 참여하는 동안 다른 방향으로 이끌 결과를 무시하기로 선택했다는 것을 확인했습니다.
"대중에게 좋은 것과 Facebook에 좋은 것 사이에는 이해 상충이 있었습니다. Facebook은 계속해서 더 많은 돈을 버는 것과 같은 자신의 이익을 위해 최적화를 선택했습니다." — 프랜시스 하우겐
고전적인 단기주의적 사고입니다. 수익을 극대화할 수 있도록 개발하려는 기능 개발을 중단할 수 있는 증거를 무시하십시오. 이것은 수익에 단기적인 이점이 있을 수 있습니다. 그러나 시간이 지남에 따라 평판에 대한 위험이 커지고 있습니다. 페이스북의 평판은 사상 최저 수준입니다. 그들은 사용자, 직원 및 투자자로부터 지원을 잃고 있습니다.
작년에 "Meta"로 리브랜딩 하기로 한 결정 뒤에 Facebook의 명성에 대한 중대한 위험이 있을 수 있습니까? 회사는 새 이름이 가상현실로 분기하고 "메타버스"를 구축할 계획이므로 수행하는 작업을 더 잘 포괄한다고 주장합니다. 그러나 좀 더 냉소적인(또는 현실적인?) 눈으로 보기에 점점 커지는 나쁜 소식으로부터 관심을 돌릴 수 있는 매우 편리한 시간에 온 것 같습니다. 이것이 평판 위험 관리의 후기 단계 시도입니까?
위험 3 : 법률 및 규제
물론 비윤리적인 기술에서 나올 수 있는 부정적인 영향은 언론에 의한 재판만이 아닙니다. 부도덕에서 완전히 불법으로 바뀌면 어떻습니까?
기술이 해를 입히는 많은 방식이 실제로 규제되지는 않습니다… 아직. 입법은 느리게 움직이고 정치적 요인의 영향을 많이 받습니다. 지난 10년 동안 우리가 목격한 것은 기술 기업의 변화 속도가 법률 기관의 변화 속도를 훨씬 능가한다는 것입니다. 거대 기술 기업이 자행하는 많은 피해에 대한 법적 선례는 없습니다. 현대 생활을 요약하기 위해 내가 가장 좋아하는 인용구 중 하나를 큐에 표시하십시오.
인류의 진정한 문제는 다음과 같습니다. 우리는 구석기시대의 감정을 가지고 있습니다. 중세 기관; 그리고 신과 같은 기술. — EO 윌슨
강력한 규제 프레임워크가 있는 곳에서 기업은 문제에 직면하게 됩니다. 영국의 데이터 감시 기관인 ICO(Information Commissioner's Office)의 최근 조사에 따르면 TikTok이 데이터 보호법을 위반했을 수 있습니다. 조사 결과 TikTok이 부모 동의 없이 13세 미만 아동의 데이터를 처리했을 수 있는 것으로 나타났습니다. 그들은 또한 회사가 법적 근거 없이 특수 범주 데이터를 처리했을 수 있음을 발견했습니다. 이것은 TikTok이 £27m 벌금에 직면하게 될 수 있습니다.
이 소식은 메타가 아일랜드 데이터 워치독에 의해 3억 4900만 파운드의 벌금이 부과되었다는 발표가 있은 지 몇 주 후에 나온 것입니다. 그들의 조사에 따르면 플랫폼은 기본적으로 13-17세의 계정을 "공개"로 설정했습니다. 이 디자인 선택은 아동의 개인 데이터(예: 전화번호 및 이메일 주소)를 공용 인터넷에 노출했습니다.
데이터 보호에 관한 법률은 유해한 기술의 다른 영역보다 더 발전된 것일 수 있습니다. 그러나 이것은 변화하고 있습니다. EU는 AI의 유해한 사용을 완화하는 것을 목표로 하는 새로운 법률( The AI Act )을 제안하여 신체적, 정신적 피해를 유발하는 AI 기술을 금지했습니다. 처음부터 윤리적 설계를 고려하지 않는 기업의 경우 규제 위험이 커지고 있습니다.
위험 4 : 상업적
상업적 위험은 실제로 별개의 범주가 아니며 위의 모든 항목의 정점입니다. 공중 보건에 위험을 초래하는 조직의 결정은 평판에 부정적인 영향을 미칩니다. 이것은 결국 비즈니스의 수익에 위험을 초래합니다. 경우에 따라 조직은 법적 위험에 직면할 수 있습니다.
올해 2월, 페이스북은 회사 설립 18년 만에 처음으로 일일 활성 사용자가 감소했다고 보도되었습니다. 그들의 주식은 20% 이상 하락하여 회사의 주식 시장 가치에서 약 2,000억 달러를 날려 버렸습니다. 이제 상관관계는 인과관계가 아닙니다. 우리는 이러한 주식 시장 활동을 페이스북에 대한 부정적 정서 증가와 직접적으로 연관시킬 수 없습니다. 주요 경쟁자로서 TikTok의 성장과 같은 다른 요인이 작용하고 있습니다.
그러나 페이스북이 사회에 미치는 해로운 영향에 대한 정기적인 보고가 투자자들을 경계하게 만들 수 있다고 가정하는 것은 지나친 비약이 아닙니다. 그들은 위험을 감수하고 싶지 않을 수도 있습니다.
위험 완화
잘못된 설계의 위험을 인정하는 것은 시작에 불과합니다. 진정한 변화를 가져오려면 체계적인 사고가 필요합니다. Humane Technology Center는 복잡한 시스템을 변경하기 위한 프레임워크를 만들었습니다. 시스템의 다양한 수준에서 개입하여 촉발할 수 있는 영향의 다양한 정도를 보여줍니다.
Facebook이 위에서 논의한 문제를 진정으로 해결하고 사회에 긍정적인 영향을 미치기 시작하려면 새로운 로고가 필요하지 않습니다. 기능 및 플랫폼 변경 또는 내부 거버넌스 및 팀 구조 업데이트로 시작할 수 있습니다. 그러나 가장 큰 영향을 미치기 위해서는 비즈니스 모델과 경제적 목표를 재고해야 합니다. 나는 그것이 곧 일어나는 것을 볼 수 없습니다. 이것의 긍정적인 점은 더 넓은 문화가 이러한 문제를 점점 더 많이 인식하고 있다는 것입니다. 궁극적으로 변화하는 사회 정서가 패러다임 전환을 강요할 수 있습니다. 우리에게는 아직 희망이 있습니다.
Ethical design is a risk management strategy
It‘s not enough to talk about designing ethically as the “right thing to do.” We need to reframe ethical design as risk management.
uxdesign.cc
본 내용은 번역본으로 의역이나 오역이 있을 수 있습니다. 자세한 내용은 원문을 참고하시기 바랍니다.
'Topic > 디자이너라면..' 카테고리의 다른 글
| AI 혁명 탐색 : 디자이너가 경쟁력을 유지할 수 있는 방법 (0) | 2023.07.03 |
|---|---|
| 지식의 저주(인지편향)가 디자이너에게 문제가 되는 이유와 이를 관리하는 방법 (0) | 2023.06.21 |
| 디자인 딜레마 : 최고의 UX 디자인 사례가 창의성에 미치는 영향 (0) | 2023.06.14 |
| 사용자가 아닌 실제 사람을 위한 디자인 (0) | 2023.04.26 |
| 포스트 성장 세계를 위한 디자인 방법 (0) | 2023.04.17 |
| 불확실한 시대에 디자인에 관심을 가져야 하는 이유 (0) | 2023.04.10 |