AI 에반젤리스트가 될 생각은 추호도 없습니다만, 저는 어제 우리는 AI가 없는 세상으로 돌아 갈 수 없다고 했습니다. 하지만 확실히 AI에 한계는 존재합니다.
그럼에도 불구하고 우리가 더욱 더 AI를 의존하게 될 것이라는 생각이 드는 것은 변치 않는 사실입니다. 예를 들어 보겠습니다. 스프레드시트인 Excel이 사고를 친 이력을 보면,
- 2012년, JPMorgan Chase & Co의 직원 중 한 명인 브루노 익실(Bruno Iksil)은 ‘런던 고래’라는 별명으로 불리며 회사에 최소 $62억 달러의 손실을 입혔습니다. 익실은 은행의 헤지 펀드 전략의 일부로서 시장에서 대규모의 신용부도스왑(CDS)을 축적했습니다. 곧 내부 직원들은 그의 공격적인 거래 방식이 시장에 영향을 미치고 있음을 알아차렸고, 혼란이 발생했습니다. 결국 사용된 위험 모델이 여러 개의 스프레드시트에서 데이터를 수동으로 복사하고 붙여넣는 방식으로 운영되었다는 사실이 드러났습니다. 예를 들어, “새로운 위험률에서 이전 위험률을 빼고, 두 값을 평균이 아니라 합계로 나누는” 실수가 발생했는데, 데이터 복사-붙여넣기 과정에서 여러 시트 사이에 공식 오류가 누적되고 맙니다. 이 오류로 인해 위험이 실제보다 절반 이하로 계산되어, 추가 거래를 공격적으로 확대하며 손실이 눈덩이처럼 불어났습니다. 수식들이 제대로 수정되지 않았던 탓에 JPMorgan은 $9억 2천만 달러의 벌금을 부과받았으며, 2012년 CEO의 연봉은 $2억 3천만 달러에서 $1억 1천 5백만 달러로 절반으로 삭감되었습니다.
- 2003년 미국의 Fannie Mae는 단일 스프레드시트 오류로 인해 분기별 실적 보고서에 $10억 달러 이상의 과대계상이 발생해 위기를 겪었습니다. 회계사가 새로운 회계 기준을 준수하기 위해 Excel 스프레드시트에 공식을 잘못 입력했고 이로 인해 보고된 분기별 실적에 $10억 달러 이상의 차이가 발생했습니다.
- 코로나 19 팬데믹 기간 동안 영국 공중보건국은 약 16,000건의 코로나19 사례를 등록하지 못했습니다. 이는 검사를 수행한 실험실 중 한 곳에서 나중에 Excel에 업로드한 CSV 파일을 통해 결과를 보고했기 때문입니다. Excel은 읽을 수 있는 행 수에 제한이 있기 때문에 CSV 파일의 마지막 부분이 포함되지 않아 양성 결과가 누락되었습니다.
- 유전학 분야에서는 2004년부터 Excel이 약 30개의 인간 유전자 및 단백질 이름을 날짜로 변환할 수 있다는 사실을 이미 알고 있었습니다. 이러한 이름은 MARCH1, SEPT1, Oct-4, jun 등과 같은 것이었습니다. 2016년, 인간 유전자 이름을 지정하는 공식 기관인 인간 유전자 이름 컨소시엄은 가장 문제가 되는 유전자의 이름을 변경했습니다. MARCH1과 SEPT1은 각각 MARCHF1과 SEPTIN1으로 변경되었고, 다른 유전자들도 비슷한 변화를 겪었습니다. 그럼에도 불구하고 연구진이 2014~2020년 사이 발표된 엑셀 유전자 목록이 포함된 논문 1만여 편을 조사한 결과, 30% 이상이 이런 오류를 포함하고 있었고, 문제는 개선되지 않고 오히려 악화되고 있습니다.
이러한 거대한 실수를 일으키니 Excel이나 더 나아가 컴퓨터 계산이나 통계를 불신하고 사용하지 말아야 할까요? 아닙니다. 문제를 인식하고, 문제가 일어나지 않도록 주의해서 사용한다면 아마 지금 이 순간에도 Excel이나 스프레드시트, 그리고 컴퓨터는 여러가지 중요한 계산을 하고 있을 것이고, 중요한 결정에 도움을 줄 것입니다. 중요한 것은 어떠한 한계가 있는지, 어떤 문제가 있을 수 있는지를 우리가 파악하고 대비하며 AI를 사용해야한다는 점입니다. 그러기 위해서는 AI에 대하여 우리가 좀 더 기민하게 정보를 취득하고 이를 교육할 필요가 있다는 것이 제 생각입니다. 아무런 사전 준비나 지식 없이 AI에 접하는 것 만큼이나 위험한 것은 없기 때문입니다. (g)