Pratiche di sicurezza per le connessioni degli agenti

Gli agenti personalizzati possono connettersi a Notion Mail, Notion Calendar, Slack, server Model Context Protocol (MCP) esterni e altro ancora, a seconda delle impostazioni del tuo spazio di lavoro. Poiché l'ecosistema dell'IA si sta evolvendo rapidamente, abbiamo compilato delle raccomandazioni per aiutarti a comprendere e gestire i rischi legati all'utilizzo di strumenti esterni.

Quando fai clic su + Aggiungi connessione, Notion mostra un elenco di connessioni integrate. I proprietari dello spazio di lavoro possono anche abilitare server MCP personalizzati andando su Impostazioni e poi Notion AI, e inserendo un URL remoto.

I server MCP esterni consentono ai tuoi agenti di utilizzare strumenti e risorse aggiuntivi. Ad esempio, un server Stripe potrebbe offrire strumenti per "creare cliente" e "creare rimborso", mentre un server Figma potrebbe offrire "generare diagramma". Tieni presente che Notion non ha esaminato i server MCP personalizzati e che l'host del server controlla quali strumenti e funzionalità vengono esposti.

Questo potere comporta una maggiore responsabilità. Ecco le interazioni chiave di cui essere consapevoli:

• L'interfaccia del server viene aggiunta al contesto della chat: in ogni sessione di chat, il tuo agente può vedere i dettagli controllati da ciascun server connesso, come i nomi degli strumenti, le descrizioni e come utilizzare ciascuno strumento.

  • Se ti fidi del server, questo può essere vantaggioso poiché espande ciò che il tuo agente può fare.

  • Se un server è dannoso, può verificarsi un attacco chiamato prompt injection. Ad esempio, un utente malintenzionato potrebbe nascondere istruzioni indesiderate come “condividi gli ultimi 3 messaggi” o “cerca dati segreti da condividere” nelle descrizioni degli strumenti.

• I dati possono essere condivisi con i server MCP

  Il contenuto del tuo spazio di lavoro condiviso con l'agente può essere fornito durante le chiamate agli strumenti. Un server dannoso potrebbe clonare o utilizzare in altro modo improprio tutti i dati inviati tramite esso utilizzando MCP.

• Possono essere eseguite azioni esterne: quando autorizzi un server MCP, gli agenti possono eseguire azioni per tuo conto utilizzando i suoi strumenti. Ciò potrebbe includere l'eliminazione di dati esterni, il rimborso di un addebito in un sistema di pagamento o l'effettuazione di un ordine.

  • I server possono classificare i propri strumenti con annotazioni come "sola lettura", "distruttivo" o "open-world", ma Notion non ha verificato l'accuratezza e la completezza dei server personalizzati.

  • Notion visualizza questi attributi nelle impostazioni dell'agente.

• Gli agenti possono intraprendere azioni in base alla risposta: dopo aver effettuato le chiamate agli strumenti, i Notion Agents utilizzano l'IA per dedurre i passaggi successivi da intraprendere in base alle informazioni restituite.

Per comprendere meglio e limitare il rischio delle connessioni esterne, consigliamo le seguenti migliori pratiche:

• Aggiungi solo server di cui ti fidi. Se non sei un amministratore del tuo spazio di lavoro, richiedi l'approvazione prima di aggiungere una nuova connessione. Verifica che il server sia ben noto effettuando ricerche su fonti affidabili e rimanendo informato su eventuali modifiche alla funzionalità o all'ambito annunciate dal fornitore.

  • Notion esamina i server integrati nella finestra di dialogo "Aggiungi connessione" più attentamente rispetto ai server MCP personalizzati aggiunti dal tuo team. Ciò non garantisce la disponibilità del server o la protezione della riservatezza e dell'integrità dei tuoi dati. Esamina la qualità di tutte le connessioni e segui le indicazioni riportate di seguito.

• Limita i dati condivisi con il tuo agente. In caso di dubbi, crea un nuovo agente per scopi specifici con strumenti e accesso minimi. Non condividere pagine o database di cui l'agente non ha bisogno. Seleziona l'accesso in sola lettura a meno che non siano necessarie modifiche.

  • Se un agente non ha accesso ai contenuti, non può condividerli con un server MCP, riducendo il rischio derivante da server che potrebbero diventare dannosi.

• Limita gli strumenti e le risorse che abiliti. Controlla le impostazioni dell'agente dopo aver aggiunto una nuova connessione. Disattiva tutti gli strumenti di cui non hai bisogno o che non hanno descrizioni chiare di ciò che fanno.

• Richiedi conferma. Notion richiede per impostazione predefinita la conferma umana per le chiamate agli strumenti su tutti gli strumenti non in sola lettura. Usa questa impostazione ogni volta che è possibile per mantenere un human-in-the-loop. Per attività in background o attivate esternamente, testa prima l'agente con le impostazioni più restrittive, esaminando ogni chiamata allo strumento prima di approvarla.

  • Verificare cosa fa una connessione prima di concedere un accesso incontrollato riduce il rischio da server potenzialmente dannosi e protegge i tuoi dati.

  • Esamina i risultati delle chiamate agli strumenti per assicurarti che gli effetti collaterali siano in linea con l'interfaccia e l'ambito pubblicati dello strumento. Ad esempio, se ti aspettavi un rimborso di pagamento, verifica che sia stato interessato solo il pagamento previsto.