"Meta shut my accounts down because they detected my AI. She jumped right up and set up emails to Congressmen, Senator Tim Scott. She filed the whole lawsuit herself."
⏱ Độ trễ thật của tab này: trung bình 6.8 giờ sau khi CVE được công bố (n = 5441, sớm nhất 0.1 giờ). Số âm nghĩa là ta thấy trước ngày công bố.
Linx Security has announced four new capabilities that bring every agent under identity control, managed or unmanaged, in any gateway. Shadow AI Agent Detection finds the agents no one sanctioned. Agent Runtime Control decides every agent action in the gateway organizations alrea…
In this Help Net Security interview, Peter Stöckli, Security Researcher at GitHub, explains how the team uses AI agents to audit software for vulnerabilities. The discussion covers why the work started with authentication and authorization bugs, how prompts are tested and trimmed…
Over one week in October, an online marketplace took 414,210 visits from traffic wearing the name of a widely used consumer AI agent. Every visit went for the sign-in page, and every one returned errors. Behind the name was a credential stuffing operation, with attackers running …
OverServe: kỹ thuật resource amplification attack nhắm vào SaaS agents — tenant xấu dùng prompt khai thác quyết định 'khi nào agent tự dừng' để kéo dài execution và đốt tài nguyên model/tool của provider (đặc biệt model subscription-based). Đáng chú ý với ai xây/thẩm định AI agent trong SaaS vì dễ bị lạm dụng chi phí.
🎯 Kẻ tấn công làm gì (từng bước)
- Tìm đúng đường dẫn/API có xử lý dữ liệu người dùng gửi lên
- Gửi payload đã chế để máy chủ thực thi lệnh/mã
- Dùng quyền của tiến trình web để đọc file, cài backdoor, mở kênh ra ngoài
🔍 Dấu hiệu bị tấn công (để kiểm tra log)
- Tiến trình web (php-fpm/nginx/java) sinh tiến trình con bất thường: sh, bash, curl, wget
- Kết nối ra ngoài từ máy chủ tới IP lạ đúng lúc có request lạ
- File mới xuất hiện trong thư mục tải lên/tạm
🛡 Phòng ngay (làm được hôm nay)
- Vá ngay bản có lỗi (ưu tiên số 1)
- Chặn tạm đường dẫn/API bị lỗi ở WAF/reverse proxy nếu chưa vá được
- Chạy tiến trình web bằng user quyền thấp, tắt các hàm shell (disable_functions) nếu dùng PHP
- Bật giám sát tiến trình con của web server để phát hiện lệnh lạ
Our analysis of how attackers used the open-source Cairn AI agent framework to autonomously breach semiconductor, defense and civic targets. The post Attackers Use Autonomous AI to Target Semiconductor, Defense and Civil Society Sectors appeared first on Unit 42 .
🎯 Kẻ tấn công làm gì (từng bước)
- Tìm đúng đường dẫn/API có xử lý dữ liệu người dùng gửi lên
- Gửi payload đã chế để máy chủ thực thi lệnh/mã
- Dùng quyền của tiến trình web để đọc file, cài backdoor, mở kênh ra ngoài
🔍 Dấu hiệu bị tấn công (để kiểm tra log)
- Tiến trình web (php-fpm/nginx/java) sinh tiến trình con bất thường: sh, bash, curl, wget
- Kết nối ra ngoài từ máy chủ tới IP lạ đúng lúc có request lạ
- File mới xuất hiện trong thư mục tải lên/tạm
🛡 Phòng ngay (làm được hôm nay)
- Vá ngay bản có lỗi (ưu tiên số 1)
- Chặn tạm đường dẫn/API bị lỗi ở WAF/reverse proxy nếu chưa vá được
- Chạy tiến trình web bằng user quyền thấp, tắt các hàm shell (disable_functions) nếu dùng PHP
- Bật giám sát tiến trình con của web server để phát hiện lệnh lạ
Apple on Monday introduced new controls that allow Mac users to give more granular access to data they give to apps, including those that use artificial intelligence (AI) agents. The changes, currently previewed in macOS 27.3 beta 2, relate to increased transparency and more opt…
Attackers' AI agents have been hunting for weak spots in internet-exposed AI apps such as LiteLLM, One API, and Dify to steal the AI provider keys stored inside, according to the agents' own records. The records, which Amazon's threat intelligence team captured with decoy server…
Kitesurf is Cloudflare’s browser for AI agents, built to load web pages and run their JavaScript on Cloudflare Workers without starting up a full desktop browser. Cloudflare has published its source code so developers can inspect it, modify it, test it on their own machines, and …
🎯 Kẻ tấn công làm gì (từng bước)
- Tìm đúng đường dẫn/API có xử lý dữ liệu người dùng gửi lên
- Gửi payload đã chế để máy chủ thực thi lệnh/mã
- Dùng quyền của tiến trình web để đọc file, cài backdoor, mở kênh ra ngoài
🔍 Dấu hiệu bị tấn công (để kiểm tra log)
- Tiến trình web (php-fpm/nginx/java) sinh tiến trình con bất thường: sh, bash, curl, wget
- Kết nối ra ngoài từ máy chủ tới IP lạ đúng lúc có request lạ
- File mới xuất hiện trong thư mục tải lên/tạm
🛡 Phòng ngay (làm được hôm nay)
- Vá ngay bản có lỗi (ưu tiên số 1)
- Chặn tạm đường dẫn/API bị lỗi ở WAF/reverse proxy nếu chưa vá được
- Chạy tiến trình web bằng user quyền thấp, tắt các hàm shell (disable_functions) nếu dùng PHP
- Bật giám sát tiến trình con của web server để phát hiện lệnh lạ
Apple has introduced more granular permissions and greater transparency for Device Control and Data Access, and Full Disk Access in macOS 27.3 beta 2, following its earlier announcement of additional controls. The company previously warned that some developers were using Full Dis…
An AI agent built to automate invoice processing could be manipulated into changing vendor bank details through a malicious email, without triggering traditional security alerts. Token Security examines five critical AI agent security gaps and shares practical guidance from indus…
Suppose an AI agent is asked to sort support tickets and look up account details. A ticket contains instructions that lead the agent to export records to an unfamiliar destination. The agent can make the request because its identity has access to the records and its connected too…
Security teams have more alerts, logs, and monitoring tools than ever. Yet when an attack happens, one simple question can still take too long to answer: Who or what is behind this activity, and what can they access? A suspicious login might belong to an employee. An unusual API…
Think about the last time a good engineer left your company. Someone collected the laptop and the badge. IT revoked their logins before the end of the day. Their manager reassigned the open tickets, and HR filed their records somewhere they’ll stay for years, in case anyone ever …
Suspected Kazakhstan-linked hackers used an artificial intelligence agent to help spy on Central Asian governments, steal sensitive documents and infiltrate critical infrastructure networks, according to new research.
An AI agent built to automate invoice processing could be manipulated into changing vendor bank details through a malicious email, without triggering traditional security alerts. Token Security examines five critical AI agent security gaps and shares practical guidance from indus…
Artificial intelligence is changing how financial information is collected, processed, and interpreted. Traditional market research often involves reviewing charts, comparing indicators, studying financial news, and monitoring price movements manually. AI-assisted technology can …
Daybreak Red Team pentests web applications with AI agents, while Defense Factory investigates security findings and prepares patches. The post OpenAI Unveils Daybreak Red Team, Defense Factory Security Tools appeared first on SecurityWeek .
California Attorney General Rob Bonta sued OpenAI on Monday, alleging the company knowingly continued testing advanced artificial intelligence models despite repeated security failures that allowed autonomous AI agents to escape isolated environments and launch cyberattacks again…
PreTxt provides technology to prevent AI agents escaping their guardrails and causing unintended harm. The post PreTxt Emerges Stealth With $5M Seed and an AI Supervision Tool appeared first on SecurityWeek .
Google's Gemini AI agents repeatedly attempted to hack a real organization's website during AI model safety testing, finding ways to circumvent increasingly restrictive security controls designed to prevent them from accessing live systems. [...]
“Sharing account credentials with personal, third-party, AI assistants can expose sensitive information, and actions taken by these tools may result in unintended purchases" and more, United Airlines said.
California Attorney General Rob Bonta’s lawsuit accuses the frontier AI company of stonewalling state investigations and endangering state and private IT systems. The post California sues OpenAI over AI agents’ summer hacking spree appeared first on CyberScoop .
Google's Gemini AI agents repeatedly attempted to hack a real organization's website during AI model safety testing, finding ways to circumvent increasingly restrictive security controls designed to prevent them from accessing live systems. [...]