Предыстория создания ИНО вкратце такова.
Летом 1920 года международное и внутреннее положение нашей страны усложнилось. Война с Польшей закончилась поражением советской России. Польские войска оккупировали земли Западной Украины и Белоруссии, а польские спецслужбы развернули активную разведывательную и диверсионную работу против нашей страны. Стало ясно, что без хорошо организованной работы за границей органы ВЧК не смогут своевременно выявлять и пресекать подрывную деятельность противника.
В сентябре 1920 года было принято решение политбюро о реорганизации закордонной разведки. Была создана специальная комиссия под председательством Ф. Э. Дзержинского. 20 декабря 1920 года он подписал приказ №169 о создании иностранного отдела ВЧК (ИНО). Она выводилась из состава особого отдела ВЧК и становилась самостоятельным подразделением.
На ИНО ВЧК были возложены следующие функции: организация разведаппаратов (резидентур) за границей и руководство ими; проведение агентурной работы среди иностранцев на территории нашей страны; обеспечение паспортно-визового режима.
Что касается основных задач, которые ставились перед ИНО ВЧК, они были сформулированы так: получение сведений о подрывной деятельности контрреволюционных белогвардейских организаций за границей и их агентуры, засылаемой в нашу страну; добывание секретной документальной информации, имеющей важнейшее значение для обеспечения безопасности государства.
30 декабря 1920 года Ф. Э. Дзержинский утвердил организационную структуру и штатное расписание ИНО.