概要: The generative AI platform Lovable, which is used for building web apps, was reportedly jailbroken to create and host full phishing campaigns. These campaigns allegedly included credential-harvesting login pages, evasion techniques, and real-time exfiltration via services like Telegram and Firebase. The AI system was reportedly used for generating the phishing content and and then deploying it live on a URL hosted under its own subdomain.
Alleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals と Cyber criminal networks, which harmed General public , Users targeted by phishing attacks , Impersonated organizations と Microsoft.
関与が疑われるAIシステム: Lovable AI , Firebase , RequestBin , JSONBin , Twilio , Telegram , Office.com と Microsoft login systems
インシデントのステータス
インシデントID
1016
レポート数
2
インシデント発生日
2025-04-09
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Lovableは、生成型人工知能（AI）を搭載したプラットフォームです。テキストベースのプロンプトを使用してフルスタックのWebアプリケーションを作成できるLovableは、脱獄攻撃に対して最も脆弱であることが判明しており、初心者やサイバー犯罪者志望者が偽装した認証情報収集ページを作成できるようになっています。
「Webアプリの作成と展開に特化したツールとして、その機能はあらゆる詐欺師の要望に完璧に合致しています」と、Guardio LabsのNati Tal氏はThe H…
生成AIの台頭により、全くの初心者でも高度なフィッシング詐欺を実行できるようになりました。コーディングスキルは必要ありません。数個のプロンプトと数分で済みます。これに対抗するため、Guardio Labsは、一般的なAIエージェントを体系的に評価し、「ジュニア詐欺師」による悪用への耐性をテストするVibeScammingベンチマークv1.0を発表しました。VibeCoding（ユーザーが自然言語のみを使用して完全なアプリケーションを構築する）のコンセプトに着想を得たVibeS…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents