GyaanSetu AI

AI, 머신러닝 및 LLM 인사이트.

1599 articlesDeep, practical knowledge

Claude Code 2.1.212, AI 비용 폭증을 막기 위해 서브 에이전트를 200개로 제한

이번 업데이트는 서브 에이전트 생성과 웹 검색 호출에 대해 각각 세션당 기본 200개로 설정되는 두 가지 환경 변수 제한을 도입합니다. 또한 긴 MCP 호출 시 2분 후 자동으로 백그라운드로 전환되는 규칙을 적용하여, 팀이 급격한 비용 증가를 억제할 수 있는 실질적인 제어 수단을 제공합니다.

AI · 4 min read

공개 GitHub 이슈를 통해 클릭 한 번으로 AI 봇이 프라이빗 저장소 코드를 유출할 수 있다

Noma Labs는 공격자가 공개 저장소에 조작된 이슈를 게시하여 프라이빗 저장소에 대한 읽기 권한을 가진 CI 연동 AI 에이전트를 작동시키고, 봇이 해당 파일들을 이슈에 다시 출력하게 만들 수 있음을 입증했습니다. 이 모든 과정은 자격 증명을 탈취하거나 GitHub 자체를 공격하지 않고도 가능합니다.

AI · 2 min read

AI 코딩 에이전트가 40분 만에 3개의 PR을 생성 – 내 메시지의 40%는 수정 요청이었다

단 하룻밤 사이에 에이전트가 MCP 클라이언트, Azure AI 에이전트, M365 Copilot 에이전트를 완성했지만, 에이전트를 다시 올바른 방향으로 유도하기 위해 30개의 메시지 중 12개가 필요했습니다. 이 과정에서 프롬프트 재작성이 필요한 워크플로 위반 및 컨텍스트 검색 버그가 드러났습니다.

AI · 3 min read

Anthropic, Claude에 1Password 접근 권한 부여하여 AI의 자율적인 앱 로그인 지원

Google의 Gemini Notebook은 이제 PDF, 문서 및 기타 파일을 인덱싱하여 즉각적인 AI 질의가 가능해졌으며, Anthropic의 Claude는 1Password에서 자격 증명을 가져와 서비스에 로그인할 수 있습니다. 또한, 공동 사양을 통해 에이전트가 별도의 코드 작성 없이 API를 탐색하고 호출할 수 있도록 하는 것을 목표로 합니다.

AI · 2 min read

인텔, 구글의 새로운 TPU 계약으로 AI 패키징 시장 내 TSMC의 독점 체제 균열

이번 변화로 인해 구글은 레이아웃부터 테스트에 이르기까지 칩 스택 전체를 재설계해야 하며, 인텔의 수율 역량은 시험대에 오르게 되었습니다. 이번 협력이 성공한다면 AI 칩 공급망을 다변화할 수 있겠지만, 작은 차질이라도 발생할 경우 출하가 지연되어 TSMC가 다시 시장 지배력을 회복하는 계기가 될 수 있습니다.

AI · 2 min read

DPO, 보상 모델 없이 LLM을 정렬하여 연산 비용을 획기적으로 절감하다

DPO는 3개의 모델이 필요한 RLHF 파이프라인을 선호도 쌍에 대한 단일 이진 교차 엔트로피(binary-cross-entropy) 손실 함수로 대체하여, 보상 모델과 PPO 업데이트 과정을 제거합니다. 그 결과, PPO 벤치마크와 대등하거나 이를 능가하는 성능을 유지하면서도 더욱 안정적이고 빠른 학습 루프를 제공합니다.

AI · 3 min read

로블록스의 새로운 AI 'Build', 코딩 없이 휴대폰만으로 아이들이 게임 전체를 제작할 수 있게 해준다

현재 뉴질랜드 인증 사용자를 대상으로 공개 알파 테스트 중인 이 기능은 로블록스의 독자적인 모델과 오픈 소스 생성형 AI를 결합하여, 단 하나의 텍스트 프롬프트만으로 환경, 메커니즘, 에셋 및 사운드를 생성합니다. 제작자는 이를 게시하기 전에 세부적으로 조정할 수 있습니다.

AI · 2 min read

뉴욕주, AI 도입으로 5년 걸릴 법률 검토를 단 몇 개월로 단축

캐시 호컬 주지사는 거대언어모델(LLM)에 주의 모든 규칙, 규정 및 정책을 입력하여, 25달러의 사냥개 수수료부터 임산부의 심야 근무 허가증에 이르기까지 구식 법령들을 찾아내도록 했습니다. 이로써 5년이 걸릴 작업을 단 몇 개월로 단축했습니다.

AI · 2 min read

기업 83%가 GPU를 50% 이하의 활용도로 운영, 64%는 클라우드 전환 계획

107개 기업을 대상으로 한 VentureBeat Pulse 설문조사에 따르면, 기업의 83%가 GPU를 절반 이하의 용량으로 운영하고 있지만 컴퓨팅 비용을 정확하게 추적할 수 있는 곳은 44%에 불과하며, 이에 따라 64%의 기업이 내년 내에 클라우드 제공업체를 교체하거나 추가하는 방안을 검토하고 있습니다.

AI · 6 min read

OpenAI, CI/CD 파이프라인 내 레드팀 테스트 자동화를 위한 GPT-Red 출시

GPT-Red는 개발자의 CI/CD 파이프라인에서 직접 수십 가지의 공격 벡터를 시뮬레이션하여, 모델이 배포되기 전에 취약점을 찾아냅니다. OpenAI는 이 도구가 안전 피드백 루프를 몇 주에서 몇 분으로 단축한다고 밝혔으나, 미묘한 위협에 대해서는 여전히 인간의 감독이 필요하다고 조언합니다.

AI · 3 min read