생성형 AI 레드티밍과 가드레일

16:10 ~ 16:30

3F 세계로룸2

우리 삶에 생성형 AI가 빠르게 도입되며 생산성은 크게 향상되지만, 동시에 심각한 안전 문제도 발생하고 있습니다. 만약 AI가 위험한 행동을 하거나 외부 공격을 받는다면 어떤 일이 벌어질까요? 본 강연에서는 AI 시스템의 약점을 사전에 진단하는 '레드티밍'과, 이를 해결하기 위한 'AI 가드레일'이 산업에서 어떻게 적용되고 있는지 소개드립니다.

우리 삶에 생성형 AI가 빠르게 도입되며 생산성은 크게 향상되지만, 동시에 심각한 안전 문제도 발생하고 있습니다. 만약 AI가 위험한 행동을 하거나 외부 공격을 받는다면 어떤 일이 벌어질까요? 본 강연에서는 AI 시스템의 약점을 사전에 진단하는 '레드티밍'과, 이를 해결하기 위한 'AI 가드레일'이 산업에서 어떻게 적용되고 있는지 소개드립니다.

LLMJailbreaking

AI RedTeaming

AI Safety

AI가드레일

유상윤

연사

에임인텔리전스, CEO

에임인텔리전스, CEO

유상윤 대표는 서울대학교 전기정보공학부에서 학사와 석사를 졸업하고, 에임인텔리전스를 설립했습니다. 에임인텔리전스는 생성형 AI의 취약점 탐지와 가드레일 솔루션을 개발하는 회사로, 최근 Meta의 라마 임팩트 이노베이션 상(Llama Impact Innovation Awards)을 수상했습니다.

유상윤 대표는 서울대학교 전기정보공학부에서 학사와 석사를 졸업하고, 에임인텔리전스를 설립했습니다. 에임인텔리전스는 생성형 AI의 취약점 탐지와 가드레일 솔루션을 개발하는 회사로, 최근 Meta의 라마 임팩트 이노베이션 상(Llama Impact Innovation Awards)을 수상했습니다.

글로벌 AI 기술의 가장 앞선 이야기

모두콘2024 공유하기

글로벌 AI 기술의
가장 앞선 이야기

모두콘2024
공유하기

MODUCON 2024 :

AI for Next Impact

모두의연구소 강남KHP 캠퍼스

서울특별시 강남구 강남대로 324, 역삼디오슈페리움 2층

모두의연구소 대전KHP 캠퍼스

대전광역시 중구 중앙로 119 대전테크노파크 디스테이션 12층

모두의연구소 역삼캠퍼스

서울특별시 강남구 역삼로 154, 태광빌딩 2,4층

Copyright @2024

MODUCON 2024 :

AI for Next Impact

모두의연구소 강남KHP 캠퍼스

서울특별시 강남구 강남대로 324, 역삼디오슈페리움 2층

모두의연구소 대전KHP 캠퍼스

대전광역시 중구 중앙로 119 대전테크노파크 디스테이션 12층

모두의연구소 역삼캠퍼스

서울특별시 강남구 역삼로 154, 태광빌딩 2,4층

Copyright @2024