一、引言 : f6 q1 V: Z" a8 i& H
本项目旨在让大家理解远控软件的原理,通过远控桌面可以实现远程控制我们的电脑,更好更方便的管理电脑。文末将给出初始版的完整代码,需要使用到的其他工具也会有所说明。最终实现的效果就是只要用户点击了客户端的程序运行,我们就可以在服务端对其进行控制。效果如下:左边是客服端程序运行了,然后我们就可以在左边的另一台电脑上打开服务端程序进行控制,可以看到左边的屏幕图像也已经显示在了右边的电脑上。完整代码见文末!! ^; A8 L' F0 x5 n( x2 s+ [, ^
二、远控流程
- l9 s+ M2 A4 o; K8 [& ~ 1.1 环境要求 ' b$ z( U9 P8 C6 K/ F
本次环境使用的是python3.6.5+windows平台# S1 B4 p4 z0 T9 Y2 U) G
主要用的库有:图像处理库opencv,包括用来目标检测和图像处理等操作。
% U: t, \- j! C; D/ B! B9 W Socket用来远程传输数据达到远程控制的效果;* {- q% p$ `$ l4 t6 p8 F7 Z2 g
Threading模块用来创建多线程管理;0 S# k/ I6 v1 R: p. P2 C9 A' ]
Numpy模块用来辅助opencv对图像进行一些像素值操作;
- ]% A8 m/ t' o PIL模块用来获取屏幕图像数据;5 [1 }* o( O2 Z/ D& f4 ?6 y
pynput.mouse用来控制鼠标点击事件。达到远程控制鼠标的作用。
7 p! p' u/ ?" q6 ^$ c+ v' I7 w 1.2 客户端讲解
! P* U0 K% g3 i" [ 客户端在这里指的是被控制的电脑,就是我们需要受到控制的电脑。' s% H- z" U. j
(1)首先是导入相关模块:
" z$ T: m: d* i" S, G( \3 D #客户端代码
import socket
import threading
import cv2
import numpy as np
from PIL import ImageGrab
from pynput.mouse import Button,Controller (2)接着创建一个鼠标控制器和用来接收服务端数据的函数。因为需要一直都接收数据,故需要嵌入循环。在这里客户端还需要接收数据的原因是,用来接收服务端传来的鼠标控制信息,要不然怎么实现鼠标控制桌面的效果呢。
* e- S% }5 u+ [ #接受服务器返回的数据的函数
m = Controller()
def recvlink(client):
while True:
msg=client.recv(1024)
msg=msg.decode('utf-8')
print(msg)
key = msg.split(",")
xp = int(key[0])
yp = int(key[1])
m.position = ((xp,yp))
m.click(Button.left,1) (3)创建ipv4的socket对象,使用TCP协议(SOCK_STREAM)。然后设置服务端IP地址,以及端口。这里用来向服务端传输数据,即传输桌面图像数据。注释代码如下:
+ I+ w& c# ^2 K$ B2 v! P3 C* U. l #创建ipv4的socket对象,使用TCP协议(SOCK_STREAM)
client=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
#设置服务器ip地址,注意应该是服务器的公网ip
host='服务器的公网ip'
#设置要发送到的服务器端口,需要在云服务器管理界面打开对应端口的防火墙
port=设置的端口
#建立TCP协议连接,这时候服务器就会监听到到连接请求,并开始等待接受client发送的数据
client.connect((host,port))
#建立连接后,服务器端会返回连接成功消息
start_msg=client.recv(1024)
print(start_msg.decode('utf-8'))
#开启一个线程用来接受服务器发来的消息
t=threading.Thread(target=recvlink,args=(client,))
t.start()
p = ImageGrab.grab()#获得当前屏幕
quality = 25 # 图像的质量
encode_param = [int(cv2.IMWRITE_JPEG_QUALITY), quality]
while True:
im = ImageGrab.grab()
imm=cv2.cvtColor(np.array(im), cv2.COLOR_RGB2BGR)#转为opencv的BGR格式
imm = cv2.resize(imm, (1535, 863))
img_encode = cv2.imencode(".jpg", imm, encode_param)[1]
data_encode = np.array(img_encode)
str_encode = data_encode.tostring()
#print(len(str_encode))
#输入要发送的信息
sendmsg="kehu"
#向服务器发送消息
client.send(str_encode)
if sendmsg=='quit':
break
#结束时关闭客户端
client.close()1.3 服务端讲解
1 I# M+ Y3 k9 E' B+ ?8 Q: ^) h$ K* B$ M 服务端指的是用来控制远程电脑的那一端,为了方便使用,我们直接在服务器上使用即可。
# p! f/ g& P9 D0 G (1)导入使用到的模块:+ I- L, x6 C( T1 f
8 F9 `% t, `* j4 Y5 | #服务器端
import socket
import threading
import numpy as np
import cv2
import os (2)创建鼠标点击事件函数,用来获取鼠标点击的位置坐标:
. m% q6 S1 _2 N$ _; ?; N print("等待连接---")
def mouse_click(event, x, y, flags, para):
if event == cv2.EVENT_LBUTTONDOWN: # 左边鼠标点击
f=open("1.txt","w")
f.write(str(x)+","+str(y))
f.close() (3)创建服务器端接收数据函数,用来实时接收传输过来的图像数据并显示:
0 B; ~* o2 \4 z# r/ o) h' R0 s def recv_msg(clientsocket):
while True:
# 接受客户端消息,设置一次最多接受10240字节的数据
recv_msg = clientsocket.recv(102400)
# 把接收到的东西解码
msg = np.fromstring(recv_msg, np.uint8)
img_decode = cv2.imdecode(msg, cv2.IMREAD_COLOR)
try:
s=img_decode.shape
img_decode=img_decode
temp=img_decode
except:
img_decode=temp
pass
cv2.imshow('SERVER', img_decode)
cv2.setMouseCallback("SERVER", mouse_click)
try:
f=open("1.txt")
txt=f.read()
f.close()
reply=txt
print(reply)
clientsocket.send(reply.encode('utf-8'))
os.remove("1.txt")
except:
pass
if cv2.waitKey(1) & 0xFF == ord('q'):
break (4)主函数,用来建立连接和数据接收等功能。
/ Z$ C) g. u. C% O3 b$ S% p def main():
socket_server=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
host='服务器的本地ip'
#设置被监听的端口号,小于1024的端口号不能使用
port=设置的端口
socket_server.bind((host,port))
#设置最大监听数,也就是最多可以同时响应几个客户端请求,一般配合多线程使用
socket_server.listen(5)
#等待客户端连接,一旦有了连接就立刻向下执行,否则等待
#accept()函数会返回一个元组,第一个元素是客户端socket对象,第二个元素是客户端地址(ip地址+端口号)
clientsocket,addr=socket_server.accept()
# 有了客户端连接后之后才能执行以下代码,我们先向客户端发送连接成功消息
clientsocket.send('连接成功'.encode('utf-8'))
# 和客户端一样开启一个线程接受客户端的信息
t=threading.Thread(target=recv_msg,args=(clientsocket,))
t.start()三、远程控制GUI窗口 # i$ j9 Q1 A9 P- Q I
7 M! W( M2 ^: F {, [ P% Y4 Y
远控桌面GUI主要是为了美观而用,需要大家根据远程代码进行集合修改。当然单独使用上述代码已经可以实现功能了,只是不够美观。由于考虑到此处代码量较大,且不是重点,故粗略讲解。
2 D1 D6 i& |# ] z# D1 r& I. O (1)导入相关库: O$ N2 ?6 b1 R( b
from PyQt5.QtWidgets import *
from PyQt5.QtCore import *
from PyQt5.QtGui import QPalette, QBrush, QPixmap
import os
import socket
import threading
import cv2
import numpy as np
from PIL import ImageGrab
from pynput.mouse import Button,Controller
import time (2)建立鼠标控制函数和点击函数
- s3 e v$ J& ~ m = Controller()
def mouse_click(event, x, y, flags, para):
if event == cv2.EVENT_LBUTTONDOWN: # 左边鼠标点击
print( x, y)
m.position = (x, y)
time.sleep(0.1)
m.click(Button.left, 1) (3)GUI界面初始化,由于我们需要把实时的视频显示在窗口上,故也需要使用到opencv。6 G8 E$ G6 I, N$ f2 s( W
def __init__(self, parent=None):
super(Ui_MainWindow, self).__init__(parent)
# self.face_recong = face.Recognition()
self.timer_camera = QtCore.QTimer()
self.cap = cv2.VideoCapture()
self.CAM_NUM = 0
self.set_ui()
self.slot_init()
self.__flag_work = 0
self.x = 0
self.count = 0 (4)设置窗口大小和控件位置等信息。创建布局和设置名称) H( W/ G% ~/ B4 q# @% n" T
def set_ui(self):
self.__layout_main = QtWidgets.QHBoxLayout()
self.__layout_fun_button = QtWidgets.QVBoxLayout()
self.__layout_data_show = QtWidgets.QVBoxLayout()
self.button_open_camera = QtWidgets.QPushButton(u'远程桌面')
self.button_close = QtWidgets.QPushButton(u'退出')
# Button 的颜色修改
button_color = [self.button_open_camera, self.button_close]
for i in range(2):
button_color[i].setStyleSheet("QPushButton{color:black}"
"QPushButton:hover{color:red}"
"QPushButton{background-color:rgb(78,255,255)}"
"QPushButton{border:2px}"
"QPushButton{border-radius:10px}"
"QPushButton{padding:2px 4px}")
self.button_open_camera.setMinimumHeight(50)
self.button_close.setMinimumHeight(50)
# move()方法移动窗口在屏幕上的位置到x = 300,y = 300坐标。
self.move(500, 500)
# 信息显示
self.label_show_camera = QtWidgets.QLabel()
self.label_move = QtWidgets.QLabel()
self.label_move.setFixedSize(100, 100)
self.label_show_camera.setFixedSize(1530,863)
self.label_show_camera.setAutoFillBackground(False)
self.__layout_fun_button.addWidget(self.button_open_camera)
self.__layout_fun_button.addWidget(self.button_close)
self.__layout_fun_button.addWidget(self.label_move)
self.__layout_main.addLayout(self.__layout_fun_button)
self.__layout_main.addWidget(self.label_show_camera)
self.setLayout(self.__layout_main)
self.label_move.raise_()
self.setWindowTitle(u'远控桌面GUI')
'''
# 设置背景图片
palette1 = QPalette()
palette1.setBrush(self.backgroundRole(), QBrush(QPixmap('background.jpg')))
self.setPalette(palette1)
''' (5)获取鼠标点击时的坐标:
" `' r3 q) l7 g$ F" u8 q h def mousePressEvent(self,event):
if event.buttons() & QtCore.Qt.LeftButton:
x = event.x()-120
y = event.y()-10
text = "x: {0},y: {1}".format(x,y)
if x>=0 and y>=0:
m.position = (x, y)
time.sleep(0.1)
m.click(Button.left, 1)
print(text) (6)按钮绑定所设置的函数:
! x7 v) C# m: X3 u( P1 G( q- R8 k def slot_init(self):
self.button_open_camera.clicked.connect(self.button_open_camera_click)
self.timer_camera.timeout.connect(self.show_camera)
self.button_close.clicked.connect(self.close) (7)显示桌面功能函数,并设置点击时修改名称,可以随时关闭桌面) c+ \5 ?6 P7 w
def button_open_camera_click(self):
if self.timer_camera.isActive() == False:
self.timer_camera.start(30)
self.button_open_camera.setText(u'关闭')
else:
self.timer_camera.stop()
self.cap.release()
self.label_show_camera.clear()
self.button_open_camera.setText(u'远程桌面') (8)显示桌面函数和退出程序函数1 J* x% P, u2 k. b6 E" I' j- u
def show_camera(self):
im = ImageGrab.grab()
imm = cv2.cvtColor(np.array(im), cv2.COLOR_RGB2BGR) # 转为opencv的BGR格式
#imm = cv2.resize(imm, (1535, 863))
self.image = imm
# face = self.face_detect.align(self.image)
# if face:
# pass
show =cv2.resize(self.image, (1536,863))
show = cv2.cvtColor(show, cv2.COLOR_BGR2RGB)
print(show.shape[1], show.shape[0])
# show.shape[1] = 640, show.shape[0] = 480
showImage = QtGui.QImage(show.data, show.shape[1], show.shape[0], QtGui.QImage.Format_RGB888)
self.label_show_camera.setPixmap(QtGui.QPixmap.fromImage(showImage))
#cv2.setMouseCallback(showImage, mouse_click)
# self.x += 1
# self.label_move.move(self.x,100)
# if self.x ==320:
# self.label_show_camera.raise_()
def closeEvent(self, event):
ok = QtWidgets.QPushButton()
cacel = QtWidgets.QPushButton()
msg = QtWidgets.QMessageBox(QtWidgets.QMessageBox.Warning, u"关闭", u"是否关闭!")
msg.addButton(ok, QtWidgets.QMessageBox.ActionRole)
msg.addButton(cacel, QtWidgets.QMessageBox.RejectRole)
ok.setText(u'确定')
cacel.setText(u'取消')
# msg.setDetailedText('sdfsdff')
if msg.exec_() == QtWidgets.QMessageBox.RejectRole:
event.ignore()
else:
# self.socket_client.send_command(self.socket_client.current_user_command)
if self.cap.isOpened():
self.cap.release()
if self.timer_camera.isActive():
self.timer_camera.stop()
event.accept()
" p5 T1 L* D6 ~ + f! Y* a! W2 N. ~+ P; W