给一个思路
TCP方案：IP欺骗，方法是植入rst包，让服务器把这次请求识别为有问题的请求，就会清空之前请求的缓存，并不断地重试请求。
开发的话先识别异常包，然后找到相同多次的异常包，肯定就是有问题的，然后逆向溯源，通过链路或者日志找到源IP，判断是否被劫持，如果是，就拒绝或限制该IP发送的请求
UDP方案：udp协议本身就不管你是不是能收到，它只管发送，那么你通过占带宽或服务器响应上线等手段堵它的入口就行了，这种应该属于是DDOS范畴的泛洪了，只是不属于你这题的范围，上面的TCP方案也是可以通过泛洪的方式来攻击。
其他的方式也有很多，可以百度一下，个人比较了解这种。
至于怎么取测试，就按上面的方案，关注它是否对IP来源做异常判断，结合是否对rst包做校验等方向，这些属于基础，我也只懂基础。。 
协议的健壮性测试是要深入到协议内部的。
服务端是黑盒，协议是他的输入，预期结果是健壮和性能。所以这是很明确的测试目标。
协议输入里自然涉及到很多schema字段，每个字段你要按照标准的边界值等价类去设计。然后是协议的流程，异常包之类的。
感谢回复，看到这个题直接懵圈了，按照你的思路我再消化一下
感谢大佬的分析，我先按照给的思路消化下