[헬로티]

롤스로이스(Rolls-Royce)가 알레테이아 프레임워크(The Aletheia Framework)를 발표했다. 자사의 AI 프로젝트의 공정성과 신뢰성은 물론, 윤리적 측면에서도 확신을 얻고자 하는 기업들에게 필요한 도구모음이다.

롤스로이스의 CEO 워런 이스트(Warren East)는 “디지털 세상으로의 전환이 보다 빠르게 전개됨에 따라, 사람들은 AI가 윤리적으로 사용되고, 인간과 사회를 위한 신뢰할 수 있는 파트너로 기대할 권리가 있다” 며 “알레테이아 프레임워크는 이를 위한 토대를 제공한다. 이제 비즈니스 리더들과 학자, 기술자, 심지어 철학자들까지도 이제 단순히 AI의 잠재력을 논하는 대신, 미래 세계의 건강과 안녕, 성장을 위해 어떠한 이점을 제공할 수 있는지에 주목해야 한다”고 언급했다.

알레테이아 프레임워크는 기업들이 AI 실행을 결정하기 전에 AI 사용으로 인한 영향을 고려할 수 있게 하는 점검 목록이다. 이는 사회적 영향과 거버넌스, 신뢰, 투명성과 관련된 총 32가지의 측면을 살펴보고, 경영진과 이사회가 이러한 사항들을 엄격하게 고려했는지 여부를 입증하도록 요구하고 있다.

AI가 적용되면, 이 프레임워크는 5단계의 연속 자동화된 점검 프로세스를 제공한다. 이러한 프로세스가 포괄적으로 적용되면, AI의 결정을 추적하여 AI의 편향성이나 오동작을 감지하고, 사람이 개입하여 이를 통제하고 수정할 수 있도록 해준다.

롤스로이스의 데이터 혁신 팀인 R2 데이터랩(R2 Data Labs)의 그룹 디렉터인 캐롤라인 고르스키(Caroline Gorski)는 “롤스로이스는 수십 년간 AI를 활용하여 우리 제트 엔진의 26차원에 걸친 70조개 이상의 데이터 포인트를 분석해 비행시간을 늘리고, 지속 가능성을 향상시킬 수 있었다”며, “현재 우리는 중요 구성부품에 대한 품질 검사를 위해 AI를 개발하고 있다”고 설명했다.

알레테이아 프레임워크는 AI 윤리와 관련해 글로벌 컨설테이션을 수행하고 있는 유네스코(UNESCO)의 전문가들과 이미 공유했다.

유네스코 사회인문과학 부문 사무총장보 가브리엘라 라모스(Gabriela Ramos)는 “유네스코는 초기 교류 과정에서 알레테이아 프레임워크를 공유하고, 인간 중심의 AI를 위한 권장사항을 개발하기 위해 전세계 전문가들과 협력하고 있다”고 밝혔다.

알레테이아 프레임워크는 방대한 검토작업을 거쳤으며, 이 과정에서 잠재력이 확인됐다.

롤스로이스의 서비스 무결성 책임자인 리 글래지어(Lee Glazier)는 “빅테크, 헬스케어, 제약, 학계 및 정부의 전문가들과 협력하여 진행된 안전 점검 과정에서 다른 기업들보다 우리가 훨씬 발전된 체계를 갖추고 있다는 것이 확인되었다”며 “또한 현재 알레테이아 프레임워크는 우리의 산업용 영역을 넘어 컨수머 애플리케이션 및 헬스케어, 채용 및 보안 등 기본적으로 AI를 사용하는 모든 애플리케이션에 적용이 가능하다는 것도 분명해졌다”고 설명했다.

알레테이아 프레임워크를 오픈 액세스로 공개한 것은 글로벌 AI 커뮤니티의 비판과 협력을 유도하여 개선을 모색하기 위한 것이다. 이 프레임워크를 공개하기로 결정한 배경에는 최근 운동신경질환을 앓고 있는 사람들을 위한 음성 소프트웨어의 획기적인 발전이 계기가 되었으며, 이러한 성과는 개인적으로 이 질환을 경험했던 롤스로이스 직원이 동기를 부여한 것이다.

이 소프트웨어는 AI를 이용해 목소리와 관용구, 정서적 어조 및 구문을 학습하여 주변 사람들과 빠르게 상호작용할 수 있도록 함으로써 MND로 인해 말을 할 수 없는 환자들과 함께 생활하는 사람들의 삶의 질을 향상시킬 수 있다. 이 소프트웨어 개발 경험은 알레테이아 프레임워크를 구축하는 데에 도움이 된 AI 활동 중의 하나였다.