AI 사용이 필요한 시점에 대한 지침은?

AI는 편리한 반면 모든 일에 지나치게 의존하거나 중요한 인간 활동을 빼앗는다는 우려로 인해 규제가 요구되는 경우가 있다. 한편으로는 규제보다 어떻게 사용하고 어떻게 평가할 것인지 학생 교육에 도입하는 시도나 금지가 아니라 사용법을 가르쳐야 한다는 지적 등 AI 사용법을 올바르게 배우는 게 중요하다는 의견도 있다. AI는 언제 사용해야 할까.

데이터엔지니어 사이먼 스페이티(Simon Spati)는 AI를 사용하는 건 좋은 일이고 모든 사람이 사용하고 있지만 그래도 자신의 기술을 배우고 생각하도록 노력해 달라며 AI가 우리를 불행하게 만들 가능성은 상당히 높다고 생각한다고 밝혔다. AI를 사용하는 것은 좋지만 모든 태스크에 사용해서는 안 된다는 것. 그에 따르면 AI는 스스로 학습하지 않으며 누군가가 지식이나 새로운 통찰을 추가해 나갈 필요가 있기 때문에 역사적 개요 작성이나 데이터에서 도표를 작성하는 데는 도움이 되지만 문서 작성이나 코딩에 사용하는 건 바람직하지 않다고 여겨진다는 것이다.

시간대비 오류를 살펴보면 AI를 사용하면 할수록 발생하는 오류가 증가한다. 단기적인 태스크에는 AI를 활용할 수 있지만 장기적인 아키텍처상 결정 등 향후 반복적으로 조정이나 수정을 해나갈 필요가 있는 경우 AI 사용으로 인한 오류는 계속 증가한다는 지적이다.

소프트웨어 개발자 포레스트 브레이질(Forest Brazeal)이 작성한 AI에 의한 생산성 향상의 환상을 보면 AI를 도입하기 전에는 꾸준히 진행되지만 AI를 도입하면 들쭉날쭉한 진행이 된다. 이는 AI를 도입하면 태스크 75%까지는 폭발적인 속도로 처리할 수 있어 엄청 생산적이라고 느끼지만 결과나 프롬프트에 불만이나 문제가 발견되면 처음부터 다시 시작해야 하며 최종적으로는 타협점을 찾을 수밖에 없다는 걸 보여준다.

따라서 스페이티는 AI 유스케이스를 구별하는 게 중요하다고 말한다. 토마스 프타체크(Thomas Ptacek)가 AI 유스케이스에 대해 언급한 바에 따르면 각 태스크에 AI를 사용하는 경우 재미있고 중요한 태스크와 재미있지만 중요도가 낮은 태스크에 AI를 적극적으로 사용하면 재미있는 부분이 저해된다. 반면 재미없는 태스크에서는 AI를 활용해 생산성이 향상될 가능성이 높아진다. 그 중에서도 반복 작업이나 번거로운 사무 처리가 포함된 중요하지만 지루한 태스크에 대해서는 AI로 자동화해 시간과 정신적 비용을 대폭 절약할 수 있다.

또 스페이티는 AI를 영혼이 없다고 지적하고 있다. 가령 좋은 글을 AI가 생성했더라도 거기에 영혼이 없다면 아무도 읽고 싶어하지 않을 것이라고 스페이티는 말했다. 또 대화형 AI나 번역 AI가 응답을 반환하기까지는 너무나 짧은 시간밖에 여유가 없기 때문에 무언가를 생각하거나 배우는 즐거움이 빼앗겨가는 것도 문제라는 것이다.

스페이티가 제기한 문제에 대해 한 사용자는 AI에 대한 의존도를 낮추기 위해 AI가 작업 중에 인간 오퍼레이터를 훈련시키는 모드가 있으면 좋겠다고 제안하고 있다. 이를 통해 단기적으로는 AI만으로 처리하는 것보다 시간이 걸리지만 장기적으로는 인간의 능력도 균형 있게 성장하기 때문에 가령 전력이나 인터넷, AI 모델이 완전히 정지한 경우에도 그다지 영향을 받지 않을 것이라는 의견이다.

또 다른 사용자는 AI vs 비AI 논의는 다소 초점이 빗나간 것으로 엔지니어는 완벽한 알고리즘이라는 낡은 패러다임에 사로잡혀 있다”고 지적하고 있다. 이 사용자에 따르면 스페이티가 인용한 AI는 태스크 대부분을 빠르게 해결하지만 마지막 미세 조정이 어렵다는 건 맞지만 인간이 손으로 수정하면 인간 손으로만 모든 태스크를 처리하는 것보다 절반 이상 시간을 단축할 수 있기 때문에 AI + 인간으로 생각해야 한다는 것이다. 완벽함을 요구받지 않는 프로그래밍이나 라이팅은 인간 일이 아닐 수도 있지만 AI가 만드는 것 이상 품질이 필요한 부분에서는 인간이 불가결하며 인간 + AI의 미노타우로스형이 될 것이라고 의견을 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.