교황, AI 감시·자율무기 위험 경고…과학 발전에 인간 감독 주문

레오 14세 교황이 프랑스 방문 전날인 9월 24일 교황청 과학원 회원들에게 인공지능의 발전과 인간의 감독을 함께 논의해야 한다고 강조했다. 바티칸 클레멘티나 홀에서 열린 접견의 연설은 다음 날 유네스코에서 제기한 교육 문제와 연결되지만, 연구개발과 기술 배치 단계에서의 책임을 구체적으로 다뤘다. 총회 주제는 과학의 미래다.

교황은 디지털화와 AI, 로봇공학이 의료 진단·치료를 개선하고 식량·에너지 체계를 강화할 가능성을 인정했다. 동시에 전체 영향은 아직 불확실하다고 전제했다. 기술이 가져올 이익을 부정하기보다 발전의 목적과 사용 조건을 함께 검토해야 한다는 입장이다.

그는 AI가 감시와 조작, 차별에 사용될 수 있다고 지적했다. 첨단 사이버 역량과 자율무기는 적절한 안전장치와 인간의 감독 없이 개발되거나 배치될 경우 국제 안보와 평화에 새로운 위험을 만들 수 있다고 경고했다. 특정 기업의 제품 평가나 어떤 무기의 실제 사용을 확인한 발표는 아니며, 위험한 활용을 막기 위한 윤리적 요청이다.

연설은 기술의 환경 부담도 같은 책임의 문제로 묶었다. 교황은 현재 AI 시스템이 많은 에너지와 물을 요구하고 탄소 배출과 천연자원에 부담을 준다고 말했다. 다만 이 자리에서 국가별 소비량이나 개별 모델의 환경 성능을 비교하는 수치를 제시하지는 않았다. 따라서 발언을 특정 서비스의 배출량 계산이나 산업 전체에 대한 정량 평가로 바꿔 읽을 수 없다.

기후 대응에서는 재난 이후의 긴급 대응에서 예방과 대비로 옮겨가야 한다고 촉구했다. 과학자와 공학자뿐 아니라 경제학자, 의사, 사회과학자, 지역사회와 정책 담당자의 협력을 강조한 대목이다. 교황은 적응할 자원이 부족한 공동체와 땅·숲·바다에 생계를 의존하는 사람들이 더 큰 부담을 진다고 설명했다.