인공지능을 현명하게 사용하기

AI 리터러시는 무엇을 읽는 능력인가


AI 리터러시를 흔히 도구를 다루는 기술로, 즉 프롬프트를 잘 쓰고, 어떤 모델이 무엇에 강한지 알고, 결과물을 업무에 끼워 넣는 숙련을 가리키는 말로 좁게 이해하고 사용한다. 분명히 이 기술적 층위는 필요하다. 생성 모델이 통계적 패턴으로 다음 단어를 예측하는 장치라는 사실, 그래서 사실과 그럴듯한 허구를 똑같이 자신감 있게 출력한다는 한계, 답변에는 학습 데이터의 편향이 반영되어 있으므로 주의를 기울여야 한다는 점을 모르면 안된다. 이것은 도구가 산출하는 결과물을 검증하는 태도를 요청한다. 이렇게 기술의 작동 원리, 적용 사례, 한계, 그리고 개인정보나 저작권 같은 사용상의 주의점을 강조하는 것이 리터러시의 기본 항목이다.


그러나 이 목록은 모두 기술을 대상으로 한다. 모델이 무엇을 하는가, 어디까지 믿을 수 있는가를 묻기는 하는데, 정작 그 도구를 쓰는 사람 자신은 관심의 대상 밖이다. 같은 챗봇의 결과물을 어떤 사람은 초안으로 여기고 받아 고쳐 쓰지만, 어떤 사람은 그대로 제출한다. 어떤 사람은 모델에게 반박을 요구한 뒤 검토하고, 어떤 사람은 답변 중에서 자기 생각을 확인해 주는 문장만 골라 읽는다. 도구의 성능이 같아도 결과가 갈리는 지점은 사용자의 습관과 성향에 있다.

그래서 리터러시에는 자기 자신을 읽는 항목이 들어가야 한다. AI에 맡기는 일과 그렇지 않은 일의 경계가 인공지능의 능력에 따라 그은 것인지, 아니면 편의-귀찮음-에 따른 것인지, 모델이 유창하게 답할 때 나는 검증을 건너뛰는 습관이 있는가. 내가 듣고 싶은 답을 유도하는 방식으로 질문하고 있지는 않은가 같은 물음은 기술 지식과는 다른 종류의 지식을 요구한다. 아주 쉽게는 자신의 사용 기록을 돌아보아야만 답할 수 있다.

자기 취약점을 아는 일은 특히 중요하다. 사람마다 약한 지점이 다르다. 어떤 사람은 수치에, 어떤 사람은 매끄러운 문장에 쉽게 설득된다. 2,784명을 대상으로 한 한 실험에서는 AI에 호의적인 태도를 가진 사람일수록 잘못된 제안을 수정하지 않고 그대로 받아들였고, 회의적인 사람이 오류를 더 안정적으로 잡아냈다 모델의 한계만큼이나, 빨리 판단을 끝내려는 조바심과 권위 있어 보이는 출처에 기대려는 경향 같은 사용자 자신의 한계가 오류의 원인이 된다.
결국 AI 리터러시는 두 방향의 읽기다. 도구를 읽는 능력과 그 도구를 쓰는 자신을 읽는 능력. 앞의 것만 갖춘 사람은 성능 좋은 도구를 손에 쥐고도 자기 편향을 증폭한다. AI를 잘 쓴다는 말은 도구를 아는 동시에 자신을 아는 상태를 가리킨다.

국제적인 관심을 받게 되다

이번 주 네이처에는 한국의 부끄러운 실상이 하나 더 공개되었다. 기자는 이런 기행(奇行)-기행이라는 표현이 맞을 것이다-의 배후에 한국의 입시제도가 있다고 지적한다. 

두 가지 요소가 있는 것 같다. 우선 쉬운 저자자격, 그리고 어려운 대학입시. 아무 것이나 덕지덕지 가져다 붙여야 직성이 풀리는 더러운 근성도 이야기 해야 할까? 스크린샷 2018 02 08 19 24 51

태어나는 것은 무조건 좋은가?

내가 구독하는 블로그에는 신학교(Trinity International University, TIU) 에서 운영하는 생명윤리 블로그도 포함되어 있다. 이 블로그에서 심각하게 받아들였던 논문이 하나 있었는데 새로운 아이가 태어날 때마다 탄소 배출량이 증가해서 결국 환경에 부담이 된다는 내용의 논문이다. 논문의 결론은 개인은 환경에 미치는 부담을 고려해서 출산을 결정해야 한다는 다소 윤리적인 내용이었다. 

TIU 블로그는 논문이 출산을 도덕적으로 해를 입히는 행위로 간주한다고 하여 우려를 표한다. 사람 생명의 측정할 수 없는 가치(the immeasurable value of a human life)는 말 그대로 측정할 수 없기 때문에, 측정할 수 있는 탄소배출량보다 가볍게 여겨진다는 것이다. 블로그는 아이가 태어나는 일이 좋은 일이라는 입장(natalism의 입장)을 갖고 있는 것 같다. 

영국의 철학자 Derek Parfitt은 흥미로운 질문을 던진다. “아이가 태어나는 것이 좋고 아이의 수가 많을수록 더 좋다면, 아이들이 형편없는 환경에 처하는 것을 감수해야 하는가?” 우리 직관은 그렇지 않다고 답하는 것 같다. 아마 신중한 답변은 “일정한 생활 수준이 유지될 수 있다는 조건 아래서 인구가 많을수록 좋다” 정도가 될 것 같다.

다음 질문은 이것이다. 일정한 수준은 어떻게 정할 수 있을까? 탄소배출량과 지구온난화는 생활수준에 얼마나 심각한 위협인가? 어떤 환경주의자들은 인간없는 세상을 상상하고, 어떻게든 인류가 – 집합적으로- 산아제한을 하자고 주장한다. (인간없는 세상. 앨런 와이즈먼)  이 주장이 심한 것 같은가? 아이가 무조건 축복이라는 농경시대 관습은 심하지 않은가? 

임신중절을 법으로 막지 말라

더 이상 이념이 우리 사회에 휘몰아치지 않게 바뀌기를 바란다. 원래 생명윤리문제는 이념적인 것인가? 

1. 현상은 이념적이다.

낙태, 안락사, 줄기세포와 같은 문제들은 종교 가치를 중시하는 사람들이, 자원분배와 사람대상연구는 정치적 가치를 중시하는 사람들이 자기 이념을 품고 들어온다. 이들의 이념과 헌신이 없었다면 생명윤리가 오늘날과 같이 인정받는 분야가 되지 않았을 것이다. 종교적, 정치적 신념은 흔히 묵살당하는 생명의 문제를 자기 문제로 만들게 했고 담론의 주제가 되게 하고 결국에는 학문의 영역으로 발전시켰다.  

 

2. 현상은 정당화가 필요하다. 

한국 사회의 교조주의 탓일지, 이들의 신념은 강압적이며 타협-검증을 거부한다. 다원화된 한국사회에서 자기 목소리를 조직화할 수 있는 이 두 집단은 소수임에도 “효울적, 효과적”으로 자기 논제를 관철시켰다. 생명을 기치로 든 자들은 실력을 행사하고 있는 것이다. 철학적 논변도 정치제도를 통한 의사결정도 거부한 채 다시 인력을 동원하는 최근의 낙태관련 논쟁을 보니, 이들은 결국 교권주의자에 불과하다. 솔직히 이들의 서명운동은 내부단합용이고 정치권에 압력을 행사하는 수단에 불과하다. 더이상 합리성을 기대하기 어려워졌구나. 

치매, 곤경

죽음, 죽어감에 관한 논의에서는 돌봄과 자기결정권이라는 두 가지 원칙이 제시된다. “어떻게 하면 불편함을 줄이고 생명의 존엄을 유지할 것인가?”가 돌봄의 원칙이 해결하려는 질문이라면, “인격체로서 자기 삶의 방식을 결정하고 실천하도록 어떻게 도울 것인가?”가 자기결정권의 원칙과 관련된 문제다.
최근에 흥미롭게 읽었던 어느 잡지(시애틀법대 학술지) 특별호는 돌봄과 자기결정권으로는 해결하기 어려운 상황을 다룬다. 바로 치매환자의 자기결정권 존중의 문제다.

치매가 고약한 것은 이 병이 판단과 결정에 영향을 미친다는 것이다. 또 이것이 이 병의 가장 분명한 진행경과다. 어떤 이들은 치매가 심해지면 죽을 수 있도록 해달라고 요청하리라. 그런데 이 요청을 어떻게 ‘확인’하고 ‘실행’할 것인가? . 급식관을 통한 영양공급(인공영양공급)은 미국 법제 안에서 전적으로 환자와 가족이 결정할 수 있고, 환자가 이전에 서류를 작성해 두었다면 시작하면 안된다. 즉 환자가 중등도 이상의 치매 때문에 의사능력을 상실한 상황이라면, 그리고 스스로 음식을 먹을 수 없게 된다면 비위관(콧줄)을 통한 영양공급은 거부할 수 있는 치료 방식이 된다. 미국의 환자교육 자료에서는 이런 종류의 영양공급이 환자에게 도움이 되지 않는다고 밝히고 있다.

문제는 최근에 일부에서 제시하는 자발적 금식중지(Voluntary Stopping of Eating and Diet, VSED)의 문제다. 어떤 사람이 먹지 않기로 결정했다면, 금식으로 인해 사망하게 된다해도 강제로 급식하면 안된다는 것이 윤리적으로 합의된 사항이다. 의사결정능력이 있는 성인이 먹지 않겠다면 존중해야 한다.그런데 치매환자(의사결정능력이 없는)는 어떻게 해야 하나? 몇 가지 가능한 경우가 있다.
1. 의사결정능력이 없는 치매 노인이 급식을 거부한다.
2. 이전, 치매가 많이 진행되기 전에 환자가 치매가 많이 진행되어 직접 먹을 수 없게 되면 급식을 원하지 않는다고 말한 노인이 급식을 거부한다.
3. 급식을 원하지 않는다고 말했는데 정작 중단하니 먹겠다고 한다.

2.의 경우는 상대적으로 판단이 쉽다 (실천은 별개로 하자. 어려우니까).
1.의 경우에는 해석이 필요하다. 그저 밥이 맛이 없어서 그런 것인지, 그보다 깊은 이유가 있는지. 그리고 존중할만한 이유인지.
3.의 경우가 앞서 논문들이 다룬 내용이다. 말 그대로 배고픔으로 고통받는 사람을, 이전의 부탁을 이유로 ‘굶길’ 것인가? 이것이 허용되는 치료 방식인가?

잠정적인 결론은 있지만 아직 잘 정리되지는 않았다. 또 1.의 경우 일반적으로 치료하는 것이 옳은지 잘 모르겠다. 2.도 무조건 중단하는 것은 경솔한 행위가 될 수 있다고 본다.
그리고 좀 더 근본적인 의문이 있다. 음식을 먹지 못할 정도의 치매 환자를 윤리적으로 돌본다는 것은 무엇인가? 얼마나 ‘적극적’인 조치를 취해야 하는가?

치료 결정은 윤리적 결정일 수밖에 없다

이번 주 JAMA 편집자주가 눈길을 끌었다. 임종환자가 흔히 겪는 섬망, 그 중에 과잉행동 섬망에 어떤 치료를 사용할 것인가를 다룬 임상시험을 소개하면서 편집자는 중요한 것은 어떻게 humaness 를 임상적 결정에 반영할 것인가의 문제라고 결론을 짓는다.
재우는 일은 의료진에게는 (상대적으로) 쉬운 선택이고, 가끔은 가족에게 그리고 그보다 조금 드물게 환자 본인에게 좋은 선택일 것이다. 죽음을 앞둔 최후의 시간을 약에 잠들어 보내는 것이 최선이라고 말할 사람은 없을 것이다.
편집자의 말은 할돌을 쓰든 할돌에 로라제팜을 섞든 이 과정에서, 비경제적이고 고된, 선택을 내리는 과정에서 조심하라는 말이다. (의료진에게) 조금 가혹하게 들릴지 모르지만 나도 그렇게 생각한다. 모든 치료 결정은 윤리적 결정이다.

미리 아는 것은 구원이 될 수 있을까?

아직 치료법이 없는 질병이 알츠하이머 치매다. 조기 진단 외에 – 조기진단이 삶의 질에 어떤 영향을 미치는지 확인이 필요하겠다 – 질병 진행에는 어떤 영향을 미칠 수 없는 조기진단법은 구원이 될 수 있을까?
미국 UCLA에서 조기진단이 가능할 수 있겠다는 연구 결과를 내 놓았다. 확립된 치료법이 없는 다른 질환의 경우와 마찬가지로 알츠하이머 치매에 이것은 어떤 의미를 갖는가? 치매의 공포를 생각하면 치매 예측이 가능해진다면 대부분의 건강검진에 포함될 것이고 이 MRI는 또다른 건강정보 프라이버시 문제로 확대될 것이다.
이 검사를 두고 원론이 반복될지 모른다.

치료가 없어도 나는 알고 싶다 vs 치료할 수 없다면 모르는 것이 낫다

이것은 유전성질환과 또다른 문제다. 유전성질환은 가족의 경과를 지켜보며 본인의 위험성을 예측한 것이지만 아직 유전성향이 확립되지 않은 치매의 경우에는 개인의 위험성 감수가 다른 문제다.
그리고 이런 문제도 있겠다. 사회적으로 치매 위험성을 아는 것은 어떤 효용가치가 있을까? 진료비를 아낄 수 있는가? 차별의 가능성은 있는가? 적절한 대책을 마련해서 실제 도움을 환자에게 제공할 수 있는가?

진단서 발급비에 관해

진단서 발급비 상한이 책정됐다. 상한이다. 정액이 아니라.
복지부는 시장이 작동하게끔 상한선을 책정하고 그 외에는 자유를 준 모양이다.
한편에선 진단서가 비싸다는 이야기를 한다. 치료도 다 해놓고, 비용도 다 받았으니 옮겨 적기만 하면 되는 것을 지금까지 그리 비싸게 청구했느냐는 것이다.

의사들에게 몇 가지 법적 의무가 있는데, 그 중 하나가 진단서 발급의무다.
③의사·치과의사 또는 한의사는 자신이 진찰하거나 검안한 자에 대한 진단서

검안서 또는 증명서 교부를 요구받은 때에는 정당한 사유 없이 거부하지 못한다. (의료법 제17조 제4항)

진단서 발급은 몇 가지 차원에서 생각해 볼 수 있을 것이다.
1. 진료에 대한 확인문서 발급
2. 법률 체계에 봉사하는 사회적 도구로서
3. 환자의 건강상태를 확인하고 진단, 예후를 판단하는 의료행위의 일부로서

이 차원이 섞여서 터무니 없는 비용이 책정된 것 아니겠나. 이걸 적폐 해소라고 내놓은 제안자도 한심하고, 여기에 아무 소리 못하는 의협은 딱하다.

치료 다 받은 후 확인서를 받아가는 것이라면 비용을 낮추면 될 것이다. 그런데 진단서 작성이 내원 목적인 사람에게도 진단서 작성 비용을 받지 말라는 말은 터무니 없게 들리다.

사실 한 가지 제안이 있긴 하다.
모든 진료 기록은, 진단명과 검사명까지 포함해서 심평원에 일단 모인다. 거기서 발급받으라고 하라. 우리나라가 자랑하는 전산서비스로 무료처리 가능할 거다.

간호사, 의사는 정서적으로 충분히 강한가?

 

캘리포니아 어느 병원 중환자실의 사진이다(출처: bioethics.net 블로그)

과연, 이 아이를 하루 세번 만나야 하는 의료진은 감정적으로 충분히 강한가? 환자를 인간으로 대해야 한다는 의무를 강요당할 때,
또 의무에 따른 그 결과로 경험할 무력감, 죄책감, 슬픔은 누가 해결해 줄까?

모두가 약하고 모두가 도움을 바란다고, 잠시 물러서서 함께 우는 것이, 우리 약점을 인정하는 해결책이 머리로는 가능하겠지만… 현실에서도 가능할까? 우리 직업은 이미, 그리고 점점 더 극한 직업이 되어간다.

타당한 약품 가격

우리나라 건강보험의 경우에도 약가는 적지 않은 부담을 차지한다 (건강보험 지출 중 약제비 비중은 25% 내외인 것으로 보고되고 있고, 2015년 OECD 보고서에서는 우리나라 약제비 비중이 OECD 평균 정도 되는 것으로 기록되어 있다)

과연 약품 가격은 합리적으로 결정되는가? 약가는 독점적으로 결정된다. 신약의 경우는 특허로 결정권이 보장되기에 독점의 우려가 크다. 건강보험제도의 약가 심의를 통해 check and balance가 이루어지고 있다고 하지만 심의제도를 인정하지 않고 아예 한국 시장을 회피함으로써 제도를 사보타주한다는 혐의도 있다.

물론 한국의 심의 당사자가 또다른 독점이니 불만도 이해할만하다. 그렇다고 한국 심의 체계가 혁신에 장애물일까? 한국의 의료체계, 치료는 약에 의존하고, 대학병원이 임상시험에 용이한 환경을 제공하는 이런 특징을 고려하면 overall 제약산업에는 유리한 환경이 아닌가?

우리 심의제도는 약가를 통제하지 않으면 건강보험의 건전성을 유지하기 어렵다는 이해에서 도입된 것이다. 우리만 그런 것이 아닌데, 약가에 대한 의심, 약가를 어떻게든 통제해야 한다는 문제의식이 미국의 경우에는 각 주에서 약가 구성을 투명하게 밝히라는 입법으로 이어지고 있다. (관련 Bioethics.net 기사) 이런 입법이 한편 트럼프 행정부에 대한 불신 때문이라고 볼 수 있겠다. 트럼프는 약가를 낮추겠다고 선언한 바 있고, 위원회를 만들었는데 막상 위원의 면면을 보니 가격 인하는 불가능하게 보이는 것과 대조된다.

그러나 미국의 이 강력한 법률은 오바마 재직 당시의 Physician Sunshine Act와 비슷한 내용을 갖는 것 같다. 약가를 직접 통제하기 보다 약가의 구성요소, 상승분의 근거 등을 투명하게 밝히라는 것인데 드러난 근거를 바탕으로 정책을 수립하고, 시민 사회가 대처하도록 하자는 것이다. 우리 관료들이야 더 좋은 수단을 생각하겠지만 이렇게 에둘러 가는 것이 더 나을 수도 있다.