AI와 함께 연구하는 시대

IRB는 무엇을 심의해야 하는가

인간-AI 협업 연구의

윤리적 거버넌스를 설계하다

지난해 9월 질병관리청 국립보건연구원은 기관생명윤리위원회(IRB) 내에 데이터분과(DRB)를 신설했다. AI와 빅데이터를 활용한 보건의료 연구가 확대되면서 기존 생명윤리 심의 체계만으로는 다루기 어려운 새로운 윤리적 쟁점들이 제기되고 있기 때문이다. 이러한 변화 속에서 『AI와 기관생명윤리위원회』(커뮤니케이션북스)는 AI 시대 연구윤리와 IRB의 역할을 정면으로 다룬다.

 질병관리청 국립보건연구원은 인공지능(AI)과 빅데이터를 활용한 보건의료 연구에 대한 개인정보 보호, 연구 윤리 심의를 위해 기관생명윤리위원회(IRB) 내 데이터분과(DRB)를 신설했다고 지난해 9월 25일 밝혔다. 사진=연합뉴스

책의 공저자는 김영순 인하대 교수(사회교육과), 오영섭 인하대 교수(다문화교육학과), 백우인 인하대 다문화융합연구소 연구교수이다. 저자들은 먼저 AI 기술이 지닌 양면성을 ‘파르마콘(pharmakon)’이라는 개념으로 포착한다. 약이면서 동시에 독인 파르마콘처럼, AI는 지식 접근성을 높여 학문의 민주화를 촉진하지만 동시에 학자적 정체성의 위기와 불완전한 지식 유통을 초래한다. ChatGPT나 Perplexity 같은 도구는 연구 진입 장벽을 낮추는 한편, AI가 생성한 논문의 무단 제출, 데이터 오염, 편향 증폭, 사고의 외주화 같은 문제를 함께 불러온다. 이 긴장 속에서 연구 윤리는 어디에 서야 하는가.

책은 행위자-네트워크 이론(ANT)을 분석 도구로 끌어들인다. ANT의 시각에서 보면, 연구는 인간이 단독으로 수행하는 활동이 아니다. 텍스트, 데이터, 알고리즘, 인터페이스, 그리고 AI까지 모두 행위자로서 연구 과정에 참여하며, 이 행위자들은 서로를 거치며 끊임없이 변형되는 ‘순환하는 지시체’의 흐름 속에 놓인다. AI는 수동적 도구로 머무르지 않으며, 그렇다고 독립적 주체로 완전히 자율화되지도 않는다. 이 ‘중간 지점’이 연구 윤리의 새로운 전장이다.

기존 IRB의 세 가지 구조적 한계

기존 IRB 제도는 AI 연구 환경 앞에서 구조적 한계를 드러내고 있다. 첫째, 기존 IRB는 기술 중립적 설계를 기반으로 하기 때문에 생성형 AI가 야기하는 알고리즘 편향, 설명 가능성 부족, 데이터 재사용과 재학습, 환각 문제 같은 새로운 윤리 쟁점을 심의 항목에 명시적으로 담지 못하고 있다. 둘째, 빅데이터 및 AI 연구에서는 연구 참여자의 범위 자체가 모호해지는 경우가 많아, 전통적인 “개별 참여자-개별 동의” 모델만으로는 모든 윤리적 문제를 다루기 어렵다. 셋째, AI 기반 연구는 반복적 상호작용, 지속적 수정, 프롬프트 변경, 모델 교체 등 유동적인 과정을 포함하는데, 기존 IRB는 여전히 연구를 사전에 고정된 계획으로 간주하는 경향이 강하다. 이로 인해 연구 과정의 실시간 변화에 대한 대응 부족, AI 활용 범위의 확장에 대한 관리 한계, 지속적 윤리 검토 체계의 부재 등의 문제가 발생한다.

서식의 문제도 핵심이다. 책은 “아무리 좋은 윤리적 원칙도 연구자가 제출할 양식과 따라야 할 절차로 환원되지 않는다면, 그것은 단순한 권고로만 머문다(Resnik & Hosseini, 2025)”고 명시한다. 현재 국내 대학의 IRB 신청 서식에는 AI라는 새로운 학문적 동반자가 들어갈 별도의 자리를 두고 있지 않다. “‘생성형 AI를 보조적으로 활용함’이라는 한 문장만으로는 IRB가 연구의 윤리성을 판단할 근거를 확보하기 어렵다(Davison et al.)”는 지적은 현장의 실태를 날카롭게 짚는다. 저자들은 AI 사용 도구의 명칭과 개발 이력, 모델 버전 및 접근 방식, AI가 개입하는 연구 단계와 범위, 인간 연구자의 검증이 개입하는 시점과 방식 등을 연구계획서에 구체화하는 ‘AI 활용 항목’ 신설을 제안한다.

IRB 심의 절차와 위원 역량, 함께 바뀌어야 한다

심의 절차의 보완도 시급하다. “IRB의 서식만큼 심의 절차도 중요하다. 인간-AI 협업 연구는 연구가 진행되는 동안에도 AI 도구의 버전이 갱신되고 AI 사업자의 정책이 변경될 수 있다.” 책은 자료의 민감도와 AI 개입 수준을 결합한 비례적 심의 매트릭스를 제안한다. 일반적인 공개 자료를 자체 AI 호스팅 모델로 분석하는 경우는 신속 심의, 고위험 자료를 외부 AI에 입력하는 경우는 정규 심의와 강화된 데이터 보호 절차를 함께 적용하는 방식이다. 또한 연구 종료 시점에 ‘프롬프트 및 분석 이력 기록부’와 ‘자료 폐기 확인서’의 제출을 의무화해 IRB가 연구의 시작뿐 아니라 끝에서도 윤리적 수행의 적정성을 점검해야 한다고 강조한다.

연구 참여 동의서도 달라져야 한다. 기존 동의서에 AI 도구의 명칭과 사업자 소재국, 자료의 외부 이전 가능성, 폐기 절차와 한계, 인간 연구자의 최종 책임 명시, AI 활용에 동의하지 않을 권리인 부분적 동의 가능성, 동의 철회 절차 등을 추가해야 한다는 것이다. 특히 부분적 동의는 연구 참여자를 ‘데이터 주권자’로서 자리매김하도록 돕는다는 점에서 의미가 크다.

심의위원의 역량과 교육도 빠뜨릴 수 없다. “IRB의 역할은 AI의 정확성을 평가하는 것이 아니라 연구자가 AI를 책임 있게 다루는 절차를 검증하는 것이다(Resnik & Hosseini, 2025).” 심의위원 모두가 AI 전문가일 필요는 없지만, 생성형 AI의 기본 작동 원리, 학습 데이터와 매개변수의 의미, 환각과 편향의 양상, 데이터 흐름의 위험 지점 등에 대한 기본적인 이해는 갖추어야 한다. 국제적으로는 NIST AI 위험관리 프레임워크, EU GDPR 및 AI Act, OECD AI 원칙, UNESCO AI 윤리 권고 등의 큰 그림도 이해해야 국내 연구 맥락에서 IRB 심의가 국제 표준과의 정합성을 유지할 수 있다.

거버넌스의 문제도 제기된다. 전국 단위 대학 IRB 사이의 모범 사례 공유, 국가 차원의 표준적인 연구 윤리 가이드라인 개발, 심의위원에 대한 교육 콘텐츠의 공동 개발이 대학-학술연구단체-정부를 아우르는 협력 거버넌스로 추진되어야 한다는 것이다. 포스트 ANT의 관점에서 보면, 윤리적 결과는 단지 누군가의 선의로 결정되는 것이 아니라 특정한 해석과 실천이 선택되어 하나의 현실로 굳어지는 과정의 산물이다. 그 과정을 설계하는 것이 거버넌스의 과제다.

책의 결론은 간명하다. 기존 연구 윤리와 IRB 제도는 인간 대상 연구의 윤리적 문제를 해결하기 위해 형성된 중요한 제도적 성과이지만, AI와 데이터 기반 연구 환경이 제기하는 새로운 문제들을 충분히 포괄하지 못하고 있다. “따라서 앞으로의 연구 윤리 체계는 기존의 존중, 선행, 정의의 원칙을 유지하면서도, 알고리즘, 데이터, 자동화된 해석, 인간-AI 협업 구조를 포함할 수 있도록 IRB의 개념과 심의 구조를 재구조화할 필요가 있다.” “AI 시대의 적합한 연구 윤리와 IRB 논의가 본격적으로 요청된다.”

148쪽이라는 얇은 분량이지만, 이 책은 묵직한 문제의식을 담고 있다. AI와 함께 연구하는 시대에 윤리는 사전 체크리스트가 아니라 연구 전 과정을 관통하는 거버넌스여야 한다. 연구자, IRB 위원, 대학 행정가, 연구 윤리 정책을 설계하는 모든 이가 읽어야 할 책이다.

출처 : 교수신문(https://www.kyosu.net/news/articleView.html?idxno=206818)