Sentinellabs의 연구원 인 Alex Delamotte와 Jim Walter는“Akirabot의 LLM 생성 스팸 메시지 콘텐츠를 사용하면 AI가 스팸 공격으로부터 웹 사이트를 방어하기 위해 제기하는 새로운 과제를 보여줍니다. “블록하기 가장 쉬운 지표는 Akira 및 ServiceWrap SEO 제품을 판매하는 데 사용되는 회전 도메인 세트입니다. 이전 캠페인에서 이러한 회사의 서비스를 판매하는 것과 같이 스팸 메시지 내용에는 더 이상 일관된 접근 방식이 없기 때문입니다.”
Akirabot은 모델 GPT-4O-MINI를 사용하여 OpenAI의 채팅 API에 다음 역할을 할당하여 일했습니다.“마케팅 메시지를 생성하는 도움이되는 비서입니다.” 프롬프트는 LLM에 변수를 런타임시 제공된 사이트 이름으로 바꾸도록 지시했습니다. 결과적으로, 각 메시지의 본문은 수신자 웹 사이트를 이름으로 이름으로 지명했으며 그에 의해 제공된 서비스에 대한 간단한 설명이 포함되었습니다.
Akirabot에서 사용하는 AI 채팅 프롬프트
크레딧 : Sentinellabs
연구원들은“결과 메시지에는 대상 웹 사이트에 대한 간단한 설명이 포함되어있어 메시지가 기획 된 것처럼 보입니다. “LLM을 사용하여 각 메시지를 생성하는 이점은 메시지 컨텐츠가 고유하고 스팸에 대한 필터링이 사소하게 필터링 될 수있는 일관된 메시지 템플릿을 사용하는 것과 비교할 때 더욱 어려워진다는 것입니다.”
Sentinellabs는 성공 및 고장 속도를 측정하기 위해 서버에 남은 로그 파일을 얻었습니다. 한 파일은 고유 한 메시지가 2024 년 9 월부터 올해 1 월까지 80,000 개 이상의 웹 사이트로 성공적으로 전달 된 것으로 나타났습니다. 이에 비해 약 11,000 개의 도메인을 대상으로하는 메시지가 실패했습니다. Openai는 연구원들에게 감사를 표하고 챗봇의 이러한 사용이 서비스 약관에 기반을두고 있다고 반복했습니다.
헤드 라인을 수정하도록 스토리가 업데이트되었습니다.
