생성형 AI 레드티밍과 가드레일
16:10 ~ 16:30
3F 세계로룸2
우리 삶에 생성형 AI가 빠르게 도입되며 생산성은 크게 향상되지만, 동시에 심각한 안전 문제도 발생하고 있습니다. 만약 AI가 위험한 행동을 하거나 외부 공격을 받는다면 어떤 일이 벌어질까요? 본 강연에서는 AI 시스템의 약점을 사전에 진단하는 '레드티밍'과, 이를 해결하기 위한 'AI 가드레일'이 산업에서 어떻게 적용되고 있는지 소개드립니다.
우리 삶에 생성형 AI가 빠르게 도입되며 생산성은 크게 향상되지만, 동시에 심각한 안전 문제도 발생하고 있습니다. 만약 AI가 위험한 행동을 하거나 외부 공격을 받는다면 어떤 일이 벌어질까요? 본 강연에서는 AI 시스템의 약점을 사전에 진단하는 '레드티밍'과, 이를 해결하기 위한 'AI 가드레일'이 산업에서 어떻게 적용되고 있는지 소개드립니다.
LLMJailbreaking
AI RedTeaming
AI Safety
AI가드레일
유상윤
연사
에임인텔리전스, CEO
에임인텔리전스, CEO
유상윤 대표는 서울대학교 전기정보공학부에서 학사와 석사를 졸업하고, 에임인텔리전스를 설립했습니다. 에임인텔리전스는 생성형 AI의 취약점 탐지와 가드레일 솔루션을 개발하는 회사로, 최근 Meta의 라마 임팩트 이노베이션 상(Llama Impact Innovation Awards)을 수상했습니다.
유상윤 대표는 서울대학교 전기정보공학부에서 학사와 석사를 졸업하고, 에임인텔리전스를 설립했습니다. 에임인텔리전스는 생성형 AI의 취약점 탐지와 가드레일 솔루션을 개발하는 회사로, 최근 Meta의 라마 임팩트 이노베이션 상(Llama Impact Innovation Awards)을 수상했습니다.