既然山口组是黑帮，为什么日本警方不能完全铲除他们？有什么困难或者法律障碍吗？

为何日本官方警方不能直接铲除山口组

因為沒有必要
黑社會是資本社會的必要之惡
杜月生嘗言道
黑幫有如夜壺
那如果沒有幫會
那些政商權貴豈不是要尿牀？

其实外国很多黑社会集团是民间组织，民间组织是受政府承认和保护的。

从根本上来说，日本政府除不掉山口组、是因为日本是一个法治社会。
山口组在日本是一个向政府注册了的合法组织。这个组织尽管在背地里组织犯罪活动，但是日本警方找不到可以根除他们的犯罪证据，在法治社会里你找不到证据就办不了人家。
虽然很多年前三代目组长因为被警方查到私藏枪支的证据而被判入狱。不过这样的小罪距离根除山口组那么庞大的一个组织还差的太远。