Mysql 批量数据删除的效率问题

问题简化：
表A，表B（不在一个服务器，字段不完全相同）里面有相同字段user_id，两个表同时记录着user的相关操作。现需要把两个表的有用相关操作保留下来，没用的删除。并集，及表A中符合要求的user_id在表B中信息也要保留下来。

我目前的做法：
表A需要的user_id和表B需要的user_id在内存中做并集，形成一个list。然后分别去两个表DELETE FROM table WHERE user_id NOT IN (list)。不过每个表都是几百万行，效率太低了。有没有什么更好的方法。

限制条件：
由于权限限制无法删除/新建表。
两个表中的有用信息还要存到本地的库里面。还要select、insert操作。
不止两个表，大概5-7个，数据都是几百万行。