随着航海业务的不断增多和对航运安全要求的不断提高，在复杂的海运环境中，船舶尤其是无人船会遇时如何有效的做出避碰决策是一个巨大的挑战。然而，现行的避碰机制更多考虑单边的静态信息，不能有效分析和利用多边的动态信息。本文突破《国际海上避碰规则》的限制，研究了传统避碰算法在应对无人船避碰问题的缺陷，建立了基于机器学习算法的无人船协同避碰系统从而解决复杂船舶网络中的信息传输和避碰问题。该系统能够考虑多边动态信息，完成运动信息的自动采集，学习运动信息，规划船舶的避碰路径。此外，为了简化避碰过程和减少船舶在转向过程中的损耗还特别设计了两步平滑转弯协同避碰机制。对于两船会遇问题，本文扩展了遗传算法的交叉遗传操作和变异遗传操作来处理双边动态信息，其仿真结果表明改进的遗传算法更加适合解决两船避碰问题。由于多船会遇问题的复杂性，本文采用改进的遗传算法与K-Means算法相结合来处理多船会遇的多边运动信息，优化多船协同避碰策略。对比实验表明协同避碰机制在船舶数量更多时比传统的模式识别方法有更好的表现。