TypeError: объект 'socket' не является итерируемым

Вы должны были передать cmd к subprocess.check_output, а не payload.

Вот как я бы закодировал сервер для обработки нескольких одновременных клиентов:

import socketserver
import subprocess

HOST = '127.0.0.1'
PORT = 4444

class MyHandler(socketserver.StreamRequestHandler):
    def handle(self):
        while True:
            cmd = self.request.recv(2048).strip() # get rid of trailing newline if present:
            cmd = cmd.decode('utf-8')
            if cmd == 'exit':
                break
            output = subprocess.check_output(cmd, shell=True)
            self.request.sendall(output)

try:
    with socketserver.ThreadingTCPServer((HOST, PORT), MyHandler) as server:
        print('Hit CTRL-C to terminate...')
        server.serve_forever()
except KeyboardInterrupt:
    print('Terminating.')

Обновлять

Согласно комментарию, сделанному AKX, если вы обеспокоены тем, что полная команда не может быть получена за один вызов socket.socket.recv, вы можете договориться, что команда должна завершаться специальным символом «конец команды». Затем вы читаете ввод по одному байту за раз, собирая команду, пока не увидите символ «конец команды». В приведенном ниже примере мы устанавливаем символ конца команды в качестве новой строки, которой может предшествовать возврат каретки. Таким образом, мы можем протестировать в Windows или Linux с помощью клиента telnet:

import socketserver
import subprocess

HOST = '127.0.0.1'
PORT = 4444

class MyHandler(socketserver.StreamRequestHandler):
    def handle(self):
        while True:
            buf = []
            # Command ends with a newline optionally preceded by a carriage return
            # Accumulate byte stings until a newline is seen:
            while True:
                bytestring = self.request.recv(1)
                if bytestring[0] == 10: # carriage return?
                    continue
                if bytestring[0] != 13: # newline?
                    buf.append(bytestring)
                else:
                    break # We have seen the end-of-command character
            # Assemble all the 1-byte strings
            cmd = b''.join(buf).decode('utf-8')
            if cmd == 'exit':
                break
            output = subprocess.check_output(cmd, shell=True)
            self.request.sendall(output)

try:
    with socketserver.ThreadingTCPServer((HOST, PORT), MyHandler) as server:
        print('Hit CTRL-C to terminate...')
        server.serve_forever()
except KeyboardInterrupt:
    print('Terminating.')