カスタムベイクは、頂点色の焼き込みをカスタマイズする機能です。
UVTexIntegraのパッケージには、サンプルのカスタムベイクスクリプトとして、鋭角ベイクプロジェクト(EdgeBake.sln)と、EdgeBake.dllが付属しています。これらも参考にしてみてください。